1
00:00:02,000 --> 00:00:07,000

2
00:00:02,654 --> 00:00:04,656
[grote orkestrale fanfare
spelen]

3
00:00:08,000 --> 00:00:13,000

4
00:00:27,636 --> 00:00:29,681
♪ ♪

5
00:00:41,389 --> 00:00:43,217
[vogels fluiten en roepen]

6
00:00:48,657 --> 00:00:50,833
-[gebrabbel]
-[trillen]

7
00:00:55,055 --> 00:00:57,057
[Videorecorder klikt en zoemt]

8
00:01:00,582 --> 00:01:02,018
[projector klikken]

9
00:01:04,847 --> 00:01:09,286
Nu, de hedendaagse computers
zijn complete idioten,

10
00:01:09,330 --> 00:01:12,115
maar dit zal niet waar zijn
in een andere generatie.

11
00:01:12,159 --> 00:01:14,857
Ze zullen beginnen te denken,
en uiteindelijk zullen ze dat ook doen

12
00:01:14,900 --> 00:01:17,599
volledig overdenken
hun makers.

13
00:01:17,642 --> 00:01:20,254
Is dit deprimerend?
Ik zie niet in waarom dat zo zou moeten zijn.

14
00:01:20,297 --> 00:01:24,823
Ik vermoed dat het biologisch is
of biologische evolutie

15
00:01:24,867 --> 00:01:26,303
is bijna ten einde.

16
00:01:27,739 --> 00:01:29,524
[Daniël grinnikt]

17
00:01:29,567 --> 00:01:30,655
CAROLINE: Je wilt mij niet
om de verteller te zijn.

18
00:01:30,699 --> 00:01:32,353
Ik heb geen goede stem.

19
00:01:32,396 --> 00:01:34,006
DANIEL: Je hebt een geweldige stem.
Doe het gewoon.

20
00:01:34,050 --> 00:01:36,183
Het is gewoon een...
we proberen het gewoon uit.

21
00:01:36,226 --> 00:01:37,967
CAROLINE:
Krijg ik betaald voor deze onzin?

22
00:01:38,010 --> 00:01:40,230
DANIEL [lacht]: Nou,
we zullen zien hoe goed je het doet.

23
00:01:40,274 --> 00:01:41,579
[Carolina lacht]

24
00:01:41,623 --> 00:01:43,451
-♪ ♪
-[hond blaft]

25
00:01:46,454 --> 00:01:47,890
CAROLINE:
Ik moet mijn ouders bellen.

26
00:01:47,933 --> 00:01:49,065
[motor start]

27
00:01:49,109 --> 00:01:51,023
Soms overhaasten we dingen

28
00:01:51,067 --> 00:01:52,851
zonder erover na te denken.

29
00:01:52,895 --> 00:01:54,723
DANIEL: Ja, kun je...
wil je schieten? Dat is...

30
00:01:54,766 --> 00:01:57,204
CAROLINE: Zoals toen Daniel
en Caroline trouwde

31
00:01:57,247 --> 00:02:00,163
151 dagen nadat ze elkaar ontmoetten.

32
00:02:00,207 --> 00:02:01,817
Laten we terugspoelen.

33
00:02:03,079 --> 00:02:04,776
[applaus]

34
00:02:04,820 --> 00:02:07,170
Heb je erover nagedacht
thuiscomputer kopen?

35
00:02:07,214 --> 00:02:09,303
CAROLINE:
Toen Daniel in 1993 werd geboren,

36
00:02:09,346 --> 00:02:12,132
zijn ouders hadden dat niet eens
een computer in huis.

37
00:02:12,175 --> 00:02:13,785
Maar hij herinnert het zich
toen ze er eindelijk een kregen.

38
00:02:13,829 --> 00:02:15,700
Wat een computer voor mij is, is

39
00:02:15,744 --> 00:02:18,355
het equivalent van een fiets
voor onze geest.

40
00:02:18,399 --> 00:02:20,227
Hallo.

41
00:02:20,270 --> 00:02:22,185
CAROLINE: Zijn computer hielp
zijn creativiteit de vrije loop laten.

42
00:02:22,229 --> 00:02:23,926
Daniël:
Rollend. Gaan.

43
00:02:23,969 --> 00:02:26,581
CAROLINE: Hij gebruikte
de iMac van zijn vader om video's te bewerken.

44
00:02:26,624 --> 00:02:28,322
Ja!

45
00:02:28,365 --> 00:02:29,932
CAROLINE: En zelfs maken
kleine animaties.

46
00:02:29,975 --> 00:02:31,934
[piepende banden, crash]

47
00:02:31,977 --> 00:02:35,067
In 1998, toen Caroline dat was
een klein meisje...

48
00:02:35,111 --> 00:02:36,721
Hallo, mama.

49
00:02:36,765 --> 00:02:38,158
...alleen nerds wisten het
wat internet was.

50
00:02:38,201 --> 00:02:39,811
En hoe zit het
dit internetding?

51
00:02:39,855 --> 00:02:41,335
- Weet jij iets?
daarover? -Zeker.

52
00:02:41,378 --> 00:02:42,771
-[publiek gelach]
-CAROLINE: Maar binnenkort,

53
00:02:42,814 --> 00:02:44,903
- iedereen was op de...
-...Internet.

54
00:02:44,947 --> 00:02:46,992
...en computers waren dat ook
mensen verslaan met schaken.

55
00:02:47,036 --> 00:02:49,995
Omroeper: Deep Blue--
Kasparov heeft ontslag genomen!

56
00:02:50,039 --> 00:02:52,607
CAROLINE: En tegen die tijd
Caroline ging naar de universiteit,

57
00:02:52,650 --> 00:02:55,087
computers waren
in ieders zak.

58
00:02:55,131 --> 00:02:58,395
Nu kon Daniel films maken
met zijn telefoon.

59
00:02:58,439 --> 00:03:01,485
Hij groeide op tot kunstenaar
en een filmmaker...

60
00:03:01,529 --> 00:03:03,922
-Goede nacht.
-...en dat deed Caroline ook.

61
00:03:03,966 --> 00:03:05,707
Snee. Laten we een close-up bekijken.
Dat was perfect.

62
00:03:05,750 --> 00:03:07,274
Computers waren dat toen al
mensen verbinden

63
00:03:07,317 --> 00:03:08,971
en de wereld op manieren veranderen

64
00:03:09,014 --> 00:03:10,668
dat wij nooit
had kunnen bedenken.

65
00:03:10,712 --> 00:03:12,322
Al het geld dat is ingezameld door
de ijsemmeruitdaging...

66
00:03:12,366 --> 00:03:14,194
CAROLINE:
Een deel ervan was goed.

67
00:03:14,237 --> 00:03:15,499
[hijgend]

68
00:03:15,543 --> 00:03:17,109
Sommige niet zo goed.

69
00:03:17,153 --> 00:03:19,286
Angst, zelfbeschadiging, zelfmoord...

70
00:03:19,329 --> 00:03:21,201
Maar het is nu duidelijk
dat we niet genoeg deden

71
00:03:21,244 --> 00:03:24,552
om deze hulpmiddelen te voorkomen
ook gebruikt voor schade.

72
00:03:24,595 --> 00:03:26,380
CAROLINE: En als de wereld
kreeg steeds meer focus

73
00:03:26,423 --> 00:03:28,033
-op hun computers,
-[telefoongeluiden]

74
00:03:28,077 --> 00:03:30,210
Daniel concentreerde zich op zijn kunstwerken.

75
00:03:32,037 --> 00:03:35,606
Waar hij ook ging,
hij had altijd een schetsboek,

76
00:03:35,650 --> 00:03:38,392
inclusief de nacht
hij ontmoette Caroline.

77
00:03:38,435 --> 00:03:41,656
Hij maakte een verschrikkelijk beeld
van haar, en 20 minuten later,

78
00:03:41,699 --> 00:03:44,136
sprak hij stoutmoedig uit
ze gingen trouwen,

79
00:03:44,180 --> 00:03:47,575
wat ze, zoals je weet, deden,
151 dagen later.

80
00:03:47,618 --> 00:03:49,925
VROUW: ...spreek je nu uit
man en vrouw.

81
00:03:49,968 --> 00:03:51,666
CAROLINE:
Ze zijn verhuisd naar een schattig huisje...

82
00:03:51,709 --> 00:03:52,841
-DANIEL: Eland, hé! Kom hier!
-...en kreeg een hond

83
00:03:52,884 --> 00:03:54,669
net zo dom als Daniël.

84
00:03:54,712 --> 00:03:57,280
Ondertussen waren computers dat wel
hele essays schrijven

85
00:03:57,324 --> 00:03:59,326
op basis van eenvoudige vragen als:

86
00:03:59,369 --> 00:04:03,155
‘Hoe moeilijk zou het zijn om te bouwen
een hut in mijn achtertuin?"

87
00:04:03,199 --> 00:04:07,072
En dus bouwde Daniel een hut
in zijn achtertuin.

88
00:04:07,116 --> 00:04:09,945
Maar net toen hij ging zitten om te beginnen
werken aan zijn volgende film,

89
00:04:09,988 --> 00:04:13,644
hij leerde dat computers
kon nu scenario's schrijven.

90
00:04:14,863 --> 00:04:16,560
Ik bedoel, ze waren slecht,

91
00:04:16,604 --> 00:04:18,954
maar ze werden steeds beter
echt snel.

92
00:04:18,997 --> 00:04:21,652
Ze zouden nieuwe beelden kunnen creëren
en video's vanaf het begin,

93
00:04:21,696 --> 00:04:24,786
en sommigen van hen
zou zelfs het balie-examen kunnen halen.

94
00:04:24,829 --> 00:04:28,833
Niet zomaar langs de bar, maar
in de top tien van het percentiel staan.

95
00:04:28,877 --> 00:04:30,531
CAROLINE:
Het was verwarrend.

96
00:04:30,574 --> 00:04:32,141
[zucht]

97
00:04:32,184 --> 00:04:35,057
Daniël wilde het gewoon
een fiets voor zijn geest,

98
00:04:35,100 --> 00:04:38,626
maar computers waren geworden
een zelfrijdend raketschip.

99
00:04:38,669 --> 00:04:40,236
[suizen]

100
00:04:40,280 --> 00:04:41,977
["Wij hebben de controle"
door Neil Young speelt]

101
00:04:42,020 --> 00:04:44,762
Pioniers in het veld
van kunstmatige intelligentie

102
00:04:44,806 --> 00:04:46,503
pleiten voor het Congres

103
00:04:46,547 --> 00:04:48,505
veiligheidsregels door te geven
voordat het te laat is.

104
00:04:48,549 --> 00:04:50,551
CAROLINE: Nu voelde het zo
de hele wereld

105
00:04:50,594 --> 00:04:52,988
was ergens tegenaan gelopen
zonder erover na te denken,

106
00:04:53,031 --> 00:04:56,339
en iedereen had een mening.

107
00:04:56,383 --> 00:05:00,125
Zou het de wereld vernietigen?
of de mensheid redden?

108
00:05:00,169 --> 00:05:02,389
Er was te veel informatie,

109
00:05:02,432 --> 00:05:04,652
wat hem ongerust maakte,
wat Caroline ongerust maakte...

110
00:05:04,695 --> 00:05:06,001
[geërgerde schreeuw]

111
00:05:06,044 --> 00:05:07,785
Ik heb nog geen kinderen,
maar ik maak me zorgen

112
00:05:07,829 --> 00:05:10,179
hoe de wereld eruit zou zien
als ik daartoe besluit. [grinnikt]

113
00:05:10,222 --> 00:05:12,355
CAROLINE:
Hij begon uit te draaien.

114
00:05:12,399 --> 00:05:14,052
[onduidelijk gebabbel]

115
00:05:14,096 --> 00:05:16,925
Het werd
een berg van angst.

116
00:05:19,144 --> 00:05:21,364
-MAN: Het is verschrikkelijk.
-Het is verdomde Siri.

117
00:05:22,670 --> 00:05:25,586
CAROLINE:
En dus besloot Daniel uit te gaan

118
00:05:25,629 --> 00:05:27,979
en zoek iemand
wie zou hem dit kunnen uitleggen,

119
00:05:28,023 --> 00:05:30,155
zodat hij kon stoppen
erover nadenken

120
00:05:30,199 --> 00:05:33,463
en hij en Caroline konden dat ook
verder gaan met hun leven.

121
00:05:33,507 --> 00:05:36,814
♪ Wij hebben de controle,
wij hebben de controle ♪

122
00:05:36,858 --> 00:05:38,729
♪ Wij hebben de controle ♪

123
00:05:38,773 --> 00:05:40,514
♪ Chemische computer
denkbatterij ♪

124
00:05:40,557 --> 00:05:42,559
♪ Wij hebben de controle, wij zijn... ♪

125
00:05:42,603 --> 00:05:45,693
Dit streven zou blijken
hopeloos naïef zijn

126
00:05:45,736 --> 00:05:49,044
en begin met het meest verwarrende
jaar van zijn leven.

127
00:05:49,087 --> 00:05:50,698
♪ Wij hebben de controle... ♪

128
00:05:50,741 --> 00:05:52,787
Maar zoals we weten,
we overhaasten soms dingen

129
00:05:52,830 --> 00:05:54,615
zonder erover na te denken.

130
00:05:54,658 --> 00:05:56,356
♪ Chemische computer
denkbatterij... ♪

131
00:05:56,399 --> 00:05:57,922
Oh, mijn god. Wat gebeurt er?

132
00:05:57,966 --> 00:05:59,924
CAROLINE:
Hij had vragen.

133
00:05:59,968 --> 00:06:01,578
Vragen alleen de
De slimste nerds kunnen antwoorden.

134
00:06:01,622 --> 00:06:04,146
Voorleggen aan de ondervrager.

135
00:06:04,189 --> 00:06:06,017
CAROLINE:
Vragen als:

136
00:06:06,061 --> 00:06:08,585
Was dit de apocalyps?
of had hij eigenlijk een reden

137
00:06:08,629 --> 00:06:11,109
-optimistisch zijn?
-Ja.

138
00:06:11,153 --> 00:06:13,764
-♪ Chemisch computerdenken
batterij. ♪ -[lied eindigt]

139
00:06:13,808 --> 00:06:16,158
CAROLINE:
Eh, is dat goed?

140
00:06:16,201 --> 00:06:17,594
Daniël:
Ja.

141
00:06:17,638 --> 00:06:20,162
Dus, om te beginnen,

142
00:06:20,205 --> 00:06:22,120
wat is kunstmatige intelligentie?

143
00:06:22,164 --> 00:06:24,688
Ik weet dat dat vervelend moet zijn
voor jou, die-die vraag,

144
00:06:24,732 --> 00:06:26,473
maar ik vind het wel belangrijk.

145
00:06:26,516 --> 00:06:29,780
Dus... AI...

146
00:06:29,824 --> 00:06:31,826
[stammelt] Eh...

147
00:06:31,869 --> 00:06:33,654
-Ja...
- Eh, hmm.

148
00:06:33,697 --> 00:06:34,742
[lacht]:
Dat is een goede vraag.

149
00:06:34,785 --> 00:06:36,178
-Ja, eh...
-Eh...

150
00:06:36,221 --> 00:06:37,658
Daniël:
Wat is AI?

151
00:06:37,701 --> 00:06:39,094
[lacht]

152
00:06:39,137 --> 00:06:40,748
Ik hou ervan dat dat is
de eerste vraag,

153
00:06:40,791 --> 00:06:43,141
want die is er niet
een duidelijk en consistent antwoord.

154
00:06:43,185 --> 00:06:45,274
Kunstmatige intelligentie wel

155
00:06:45,317 --> 00:06:50,714
een soort opzettelijk
en misschien een nutteloos brede term.

156
00:06:50,758 --> 00:06:53,325
DAVID EVAN HARRIS:
Het is een machine

157
00:06:53,369 --> 00:06:55,545
dingen doen die dat doen
dachten we voorheen alleen maar

158
00:06:55,589 --> 00:06:57,242
wat mensen zouden kunnen doen:

159
00:06:57,286 --> 00:07:01,116
aanbevelingen doen,
beslissingen en voorspellingen.

160
00:07:01,159 --> 00:07:06,774
AI is de toepassing
van de informatica

161
00:07:06,817 --> 00:07:09,124
cognitieve problemen op te lossen.

162
00:07:09,167 --> 00:07:13,302
Oké, dus als ik me AI voorstel,

163
00:07:13,345 --> 00:07:16,740
het is zoiets als
deze magische computerdoos...

164
00:07:16,784 --> 00:07:18,786
♪ ♪

165
00:07:20,527 --> 00:07:24,095
...gewoon, zwevend
in een inerte ruimte.

166
00:07:24,139 --> 00:07:26,446
En het maakt niet uit
hoe vaak mensen het proberen

167
00:07:26,489 --> 00:07:29,710
en leg mij dit uit,
Ik begrijp gewoon niet hoe...

168
00:07:29,753 --> 00:07:32,495
hoe het is te begrijpen
al deze dingen

169
00:07:32,539 --> 00:07:35,672
en hoe het voelt
intelligentie.

170
00:07:35,716 --> 00:07:37,152
[piepen, elektronisch gebabbel]

171
00:07:37,195 --> 00:07:39,241
En dat is een beetje
zenuwslopend.

172
00:07:41,243 --> 00:07:45,552
AZA RASKIN: Wat is dat?
deze nieuwe generatie AI?

173
00:07:47,205 --> 00:07:50,078
Deze AI is anders dan
elke andere generatie?

174
00:07:50,121 --> 00:07:52,733
Zoals, niemand ooit
gesproken over, zoals,

175
00:07:52,776 --> 00:07:56,911
Siri neemt de wereld over
of catastrofes veroorzaken.

176
00:07:56,954 --> 00:07:58,478
-VROUW: Hallo, Siri?
-MAN: ...wil.

177
00:07:58,521 --> 00:08:00,523
VROUW:
Hallo? Siri?

178
00:08:00,567 --> 00:08:02,569
Hallo? Hé, Siri!

179
00:08:02,612 --> 00:08:05,746
Of de stem in Google Maps,
die straatnamen verkeerd uitspreekt,

180
00:08:05,789 --> 00:08:07,487
zoals het breken van de samenleving.

181
00:08:07,530 --> 00:08:10,620
MAN: Google Maps zegt
dit is een weg.

182
00:08:10,664 --> 00:08:13,057
[lachen]:
Maar ik denk dat ik in een rivier ben.

183
00:08:13,101 --> 00:08:14,624
Dit is absoluut een rivier,
innit?

184
00:08:14,668 --> 00:08:17,192
Er is iets veranderd
met ChatGPT die uitkomt.

185
00:08:18,193 --> 00:08:19,934
Mensen begrepen het-- nee, nee, nee--

186
00:08:19,977 --> 00:08:21,457
deze technologie
waanzinnig waardevol,

187
00:08:21,501 --> 00:08:23,633
het is waanzinnig krachtig
en ook waanzinnig eng.

188
00:08:23,677 --> 00:08:25,548
Oké, luister hiernaar.
Heel griezelig.

189
00:08:25,592 --> 00:08:28,595
Een nieuwe kunstmatige intelligentie
tool gaat viraal

190
00:08:28,638 --> 00:08:32,294
voor het uitwerken van hele essays
binnen enkele seconden.

191
00:08:35,950 --> 00:08:41,172
AI doet de kracht van iedereen in het niet vallen
andere technologieën gecombineerd.

192
00:08:41,216 --> 00:08:43,697
Daniël:
‘AI verkleint de macht

193
00:08:43,740 --> 00:08:46,047
van alle andere technologieën
gecombineerd."

194
00:08:46,090 --> 00:08:47,222
Ja.

195
00:08:47,265 --> 00:08:48,702
Denk je dat dat waar is?

196
00:08:48,745 --> 00:08:50,747
Ja.

197
00:08:50,791 --> 00:08:53,184
Vertel me over... Hoe? Hoe?

198
00:08:53,228 --> 00:08:56,710
Ik denk dat, om dat beeld te schetsen,
het is echt belangrijk

199
00:08:56,753 --> 00:09:00,627
om te begrijpen wat vandaag de dag is
state-of-the-art systemen

200
00:09:00,670 --> 00:09:02,150
eruit zien en hoe ze zijn gebouwd.

201
00:09:02,193 --> 00:09:05,762
[lacht] Dit is het
nogal een... nogal een opstelling.

202
00:09:05,806 --> 00:09:07,242
Eén ding dus

203
00:09:07,285 --> 00:09:09,679
niet veel mensen
beseffen is dat

204
00:09:09,723 --> 00:09:13,683
systemen zoals ChatGPT zijn dat niet
geprogrammeerd door ieder mens.

205
00:09:13,727 --> 00:09:15,206
Wat bedoel je?

206
00:09:15,250 --> 00:09:16,991
In plaats daarvan is het zoiets als
e-ze zijn volwassen.

207
00:09:17,034 --> 00:09:19,167
Wij geven ze een soort van
ruwe grondstoffen, zoals,

208
00:09:19,210 --> 00:09:20,995
‘Hier zijn er veel
computationele bronnen.

209
00:09:21,038 --> 00:09:22,170
Hier zijn veel gegevens."

210
00:09:22,213 --> 00:09:23,867
Onder de motorkap is het wiskunde,

211
00:09:23,911 --> 00:09:27,305
en de wiskunde is eigenlijk
verrassend eenvoudig.

212
00:09:27,349 --> 00:09:31,092
DANIEL: Dus ChatGPT is een soort
van AI, maar het is niet allemaal AI?

213
00:09:31,135 --> 00:09:32,659
Helemaal. ChatGPT is
nog maar het begin,

214
00:09:32,702 --> 00:09:34,095
maar het is een goede plek om te beginnen.

215
00:09:34,138 --> 00:09:37,794
Maar ik weet het nog steeds niet
wat AI is.

216
00:09:37,838 --> 00:09:40,362
Om AI te begrijpen,
het begint met begrip

217
00:09:40,405 --> 00:09:43,147
waar intelligentie over gaat
patronen herkennen.

218
00:09:43,191 --> 00:09:44,845
-Patronen. -Patronen.
-Patronen.

219
00:09:44,888 --> 00:09:48,544
COTRA: Het wordt getoond
biljoenen woorden tekst

220
00:09:48,588 --> 00:09:51,286
in miljoenen documenten
op internet.

221
00:09:51,329 --> 00:09:52,766
RANDIMA FERNANDO:
Het begon met tekst.

222
00:09:52,809 --> 00:09:55,899
En wat ze deden was
ze namen leerboeken,

223
00:09:55,943 --> 00:09:59,511
en ze namen gedichten en essays
en handleidingen.

224
00:09:59,555 --> 00:10:00,861
DAVID EVAN HARRIS:
Ze kunnen dingen doen als

225
00:10:00,904 --> 00:10:03,124
verteer het hele internet,

226
00:10:03,167 --> 00:10:06,736
elk woord dat ooit is
geschreven door een persoon.

227
00:10:06,780 --> 00:10:09,957
Reddit-threads en sociale media
en heel Wikipedia.

228
00:10:10,000 --> 00:10:13,613
Meer gegevens dan wie dan ook zou kunnen
ooit in meerdere levens gelezen.

229
00:10:13,656 --> 00:10:15,484
En zij gaven dit systeem
één baan.

230
00:10:15,527 --> 00:10:18,487
Ontdek de patronen en
structuur van die informatie

231
00:10:18,530 --> 00:10:20,750
en gebruik dat
voorspellingen over te doen

232
00:10:20,794 --> 00:10:23,231
welk woord zou hierna moeten komen
in een zin.

233
00:10:23,274 --> 00:10:24,972
Wanneer je zegt
"patronen in een zin,"

234
00:10:25,015 --> 00:10:26,756
waar heb je het over?

235
00:10:26,800 --> 00:10:29,367
Dus het is alles van, zoals,
de echt simpele dingen,

236
00:10:29,411 --> 00:10:31,979
zoals de meeste zinnen eindigen
met een punt,

237
00:10:32,022 --> 00:10:34,895
helemaal tot aan de
meer conceptuele dingen, zoals:

238
00:10:34,938 --> 00:10:36,766
Wat is een sonnet?

239
00:10:36,810 --> 00:10:38,333
Het is een soort gedicht, en dat is ook zo
een bepaalde structuur.

240
00:10:39,421 --> 00:10:41,249
RASKIN:
Dus dan wordt er naar gekeken

241
00:10:41,292 --> 00:10:43,599
al die gegevens,
al die tekst...

242
00:10:43,643 --> 00:10:46,036
COTRA: En meer dan biljoenen
en biljoenen pogingen,

243
00:10:46,080 --> 00:10:48,778
elke keer krijgt het iets
goed of fout,

244
00:10:48,822 --> 00:10:51,259
het wordt een beetje gegeven
van positieve bekrachtiging

245
00:10:51,302 --> 00:10:53,391
wanneer het raadt
het volgende woord correct,

246
00:10:53,435 --> 00:10:55,698
en het wordt een beetje gegeven
van negatieve bekrachtiging

247
00:10:55,742 --> 00:10:59,354
wanneer het raadt
het volgende woord verkeerd.

248
00:10:59,397 --> 00:11:01,573
En aan het einde ervan,
je hebt een systeem dat

249
00:11:01,617 --> 00:11:05,055
spreekt heel goed Engels
als bijwerking

250
00:11:05,099 --> 00:11:06,796
van echt heel goed zijn
bij het voorspellen

251
00:11:06,840 --> 00:11:09,059
het woord dat daarna komt
in een stukje tekst.

252
00:11:09,103 --> 00:11:12,019
GEAUTOMATISEERDE STEM [in het Frans]:
Eigenlijk mijn Frans
is ook niet erg.

253
00:11:12,062 --> 00:11:14,021
[in het Engels]: Het gebruikt alles
de patronen die het heeft geleerd

254
00:11:14,064 --> 00:11:15,675
te kunnen maken
een voorspelling over

255
00:11:15,718 --> 00:11:17,241
wat het antwoord zou moeten zijn,

256
00:11:17,285 --> 00:11:18,808
dan geeft het je dat
als de uitvoer.

257
00:11:18,852 --> 00:11:21,028
GEAUTOMATISEERDE STEM:
Het is een beetje te simpel gesteld,

258
00:11:21,071 --> 00:11:23,073
maar ik denk dat mensen het wel zullen snappen.

259
00:11:23,117 --> 00:11:24,945
Dus dat is alles wat het doet?

260
00:11:24,988 --> 00:11:26,816
Ja. Het lijkt er niet op
Het zou zo ingewikkeld zijn,

261
00:11:26,860 --> 00:11:28,035
maar eigenlijk moet je het weten

262
00:11:28,078 --> 00:11:29,645
een enorme hoeveelheid dingen

263
00:11:29,689 --> 00:11:31,386
om te
daar daadwerkelijk in slagen.

264
00:11:32,517 --> 00:11:34,258
RASKIN:
Als je tegen ChatGPT zegt,

265
00:11:34,302 --> 00:11:36,696
‘Schrijf mij een Shakespeariaans
sonnet over mijn hond,"

266
00:11:36,739 --> 00:11:38,785
het moet weten wat honden zijn.

267
00:11:38,828 --> 00:11:40,438
-Het moet weten waar je van houdt
over je hond.-[blaffen]

268
00:11:40,482 --> 00:11:43,006
Het moet weten
wie Shakespeare is,

269
00:11:43,050 --> 00:11:45,574
dat sonnetten rijmen,
dat ze een structuur hebben,

270
00:11:45,617 --> 00:11:47,750
dat woorden klanken hebben
dat kan rijmen.

271
00:11:47,794 --> 00:11:49,273
Het kost veel.

272
00:11:49,317 --> 00:11:50,884
[stemmen overlappen elkaar
in verschillende talen]

273
00:11:50,927 --> 00:11:52,929
Godverdomme, je kunt praten
nu naar uw computer.

274
00:11:52,973 --> 00:11:56,063
Dat was gewoon niet waar
drie jaar geleden.

275
00:11:56,106 --> 00:11:57,629
RASKIN: Ja, en dit is het ook
het echt belangrijke deel.

276
00:11:57,673 --> 00:12:00,589
Hetzelfde proces dat AI mogelijk maakt

277
00:12:00,632 --> 00:12:03,157
blootleggen en manipuleren
de tekstpatronen

278
00:12:03,200 --> 00:12:05,768
is hetzelfde proces
waardoor het kan worden blootgelegd

279
00:12:05,812 --> 00:12:10,512
de patronen van het geheel
heelal en alles daarin.

280
00:12:10,555 --> 00:12:12,862
FERNANDO: Er zijn patronen
en beeld en geluid

281
00:12:12,906 --> 00:12:15,952
in computercode en DNA
en muziek en natuurkunde

282
00:12:15,996 --> 00:12:18,476
en mode- en bouwontwerp

283
00:12:18,520 --> 00:12:21,566
[vervormd]: en in
menselijke stemmen en menselijke gezichten,

284
00:12:21,610 --> 00:12:23,917
[normaal]:
echt, echt overal.

285
00:12:23,960 --> 00:12:26,006
-Overal. -Overal.
-Overal. -Overal.

286
00:12:26,049 --> 00:12:27,747
Als je het geleerd hebt
die patronen,

287
00:12:27,790 --> 00:12:29,661
je kunt genereren
nieuwe soorten liedjes.

288
00:12:29,705 --> 00:12:31,141
Je kunt nieuwe video's genereren.

289
00:12:31,185 --> 00:12:32,621
En daarom, als je het geeft

290
00:12:32,664 --> 00:12:34,710
een opname van drie seconden
van je grootmoeder,

291
00:12:34,754 --> 00:12:36,538
het kan terugspreken in haar stem.

292
00:12:36,581 --> 00:12:37,931
O, mijn God.

293
00:12:37,974 --> 00:12:40,585
[herhalend]:
O, mijn God. O, mijn God.

294
00:12:40,629 --> 00:12:42,849
Waar zullen ze hierna aan denken?

295
00:12:42,892 --> 00:12:44,024
Het gaat heel, heel snel.

296
00:12:44,067 --> 00:12:45,808
Een Amerikaanse AI-start-up

297
00:12:45,852 --> 00:12:47,592
heeft zijn nieuwste model uitgebracht.

298
00:12:47,636 --> 00:12:50,770
Dat bedrijf is Antropisch,
en het is zojuist onthuld

299
00:12:50,813 --> 00:12:53,773
de nieuwste versies
van zijn AI-assistent Claude.

300
00:12:53,816 --> 00:12:57,167
GLENN BECK: Dus het xAI-team
was daar om Grok 4 te onthullen.

301
00:12:57,211 --> 00:13:00,127
MAN: Google heeft er een uitgebracht
net vorige week. Tweeling is...

302
00:13:00,170 --> 00:13:02,999
We zijn van GPT-2 gegaan
nog maar een paar jaar geleden,

303
00:13:03,043 --> 00:13:05,523
die nauwelijks kon schrijven
een samenhangende paragraaf,

304
00:13:05,567 --> 00:13:07,961
naar GPT-4,
die kan slagen voor het bar-examen.

305
00:13:08,004 --> 00:13:10,354
En alles wat ze moesten doen
om daar te komen

306
00:13:10,398 --> 00:13:12,966
was in wezen meer gegevens toevoegen
en meer rekenkracht.

307
00:13:13,009 --> 00:13:16,273
-Deze mensen die dat wel zijn
Dit bouwen... -COTRA: Ja.

308
00:13:16,317 --> 00:13:18,014
...ze gooien gewoon meer...

309
00:13:18,058 --> 00:13:21,801
Meer fysieke computers,
meer van dezelfde soort gegevens.

310
00:13:21,844 --> 00:13:24,542
Want hoe meer
rekenkracht die u toevoegt,

311
00:13:24,586 --> 00:13:28,024
hoe complexer
intellectuele taken die ze kunnen uitvoeren.

312
00:13:28,068 --> 00:13:30,157
Dus hoe meer weergegevens
jij geeft het,

313
00:13:30,200 --> 00:13:31,898
hoe beter het kan
voorspellingen over doen

314
00:13:31,941 --> 00:13:34,204
waar een orkaan heen zou kunnen gaan.

315
00:13:34,248 --> 00:13:36,337
RASKIN: En hoe meer patronen
van tumoren en botten

316
00:13:36,380 --> 00:13:38,861
en weefsels die een AI heeft gezien,
dan is het beter in staat

317
00:13:38,905 --> 00:13:41,951
om een tumor op te sporen
op een nieuwe CT-scan.

318
00:13:41,995 --> 00:13:43,648
Beter zelfs dan een menselijke dokter.

319
00:13:43,692 --> 00:13:46,956
AI dat is al zo
ingezet voor het leger

320
00:13:47,000 --> 00:13:49,132
al kan gebruiken
satellietbeelden,

321
00:13:49,176 --> 00:13:51,787
troepenbewegingen, communicatie
bepalen,

322
00:13:51,831 --> 00:13:53,354
-soms dagen van tevoren,
- [sirene van de burgerbescherming schettert]

323
00:13:53,397 --> 00:13:55,008
waar een aanval
gaat gebeuren,

324
00:13:55,051 --> 00:13:57,401
zoals waar een vijand is
gaat toeslaan.

325
00:13:57,445 --> 00:13:59,447
TRISTAN HARRIS: Dit geheel
de ruimte beweegt zo snel

326
00:13:59,490 --> 00:14:01,666
dat elk voorbeeld
jij in deze film hebt gestopt

327
00:14:01,710 --> 00:14:04,582
zal absoluut onhandig aanvoelen
tegen de tijd dat het uitkomt.

328
00:14:04,626 --> 00:14:06,671
[piepen, klikken]

329
00:14:09,326 --> 00:14:11,198
-[applaus]
-[vrolijke muziek]

330
00:14:11,241 --> 00:14:14,114
RASKIN:
Deze modellen worden uitgebracht

331
00:14:14,157 --> 00:14:17,073
voordat iemand het weet
waar ze überhaupt toe in staat zijn.

332
00:14:17,117 --> 00:14:22,513
GPT-3.5 werd vrijgegeven en uit
tot 100 miljoen mensen plus

333
00:14:22,557 --> 00:14:25,952
vóór enkele onderzoekers
ontdekte dat het kon

334
00:14:25,995 --> 00:14:28,737
scheikunde van onderzoekskwaliteit
beter dan modellen

335
00:14:28,780 --> 00:14:32,784
die specifiek zijn opgeleid
om scheikunde van onderzoekskwaliteit te doen.

336
00:14:32,828 --> 00:14:35,439
Er gebeurt daar iets
dat de mensen

337
00:14:35,483 --> 00:14:38,268
wie ze bouwen
begrijp het niet helemaal.

338
00:14:38,312 --> 00:14:40,967
Kortom, het analyseert alleen maar
de gegevens zelf,

339
00:14:41,010 --> 00:14:45,058
en terwijl het dat doet,
het leert zichzelf gewoon

340
00:14:45,101 --> 00:14:47,974
verschillende dingen
dat we vaak niet van plan waren.

341
00:14:48,017 --> 00:14:49,932
Dus bijvoorbeeld
er wordt veel online gelezen,

342
00:14:49,976 --> 00:14:52,543
en op een gegeven moment is het gewoon zo
leert rekenen.

343
00:14:52,587 --> 00:14:54,458
KINDEREN:
Eén, twee.

344
00:14:54,502 --> 00:14:56,112
HENDRYCKS: En dan op
op een gegeven moment begint het te leren

345
00:14:56,156 --> 00:14:58,549
hoe te antwoorden
geavanceerde natuurkundevragen.

346
00:14:58,593 --> 00:15:00,769
Dat hebben wij niet geprogrammeerd
daarin dan ook.

347
00:15:00,812 --> 00:15:02,423
Het heeft het gewoon vanzelf geleerd.

348
00:15:05,382 --> 00:15:07,254
TRISTAN HARRIS:
Een AI is als een digitaal brein.

349
00:15:07,297 --> 00:15:08,690
Maar net als een menselijk brein,

350
00:15:08,733 --> 00:15:10,518
als je een hersenscan hebt gemaakt
op een menselijk brein,

351
00:15:10,561 --> 00:15:13,086
zou jij alles weten
waartoe die persoon in staat was?

352
00:15:13,129 --> 00:15:15,131
Dat kun je niet weten
alleen van de hersenscan.

353
00:15:15,175 --> 00:15:17,917
Het is gewoon, zoals,
een aantal cijfers en, zoals,

354
00:15:17,960 --> 00:15:20,180
de vermenigvuldigingen die dat zijn
gebeurt dat-dat, zoals,

355
00:15:20,223 --> 00:15:22,225
de beste machine learning
onderzoeker ter wereld

356
00:15:22,269 --> 00:15:24,314
naar kon kijken en, zoals, hebben
geen idee wat er gebeurde.

357
00:15:30,973 --> 00:15:32,714
Daniël:
Die stoel daar.

358
00:15:32,757 --> 00:15:35,847
- Vind je dat goed?
-Ja.

359
00:15:35,891 --> 00:15:37,675
Daniël: Dus,
dat is nogal verbijsterend.

360
00:15:37,719 --> 00:15:39,068
Oké? Het neemt het bijvoorbeeld over
de wereld,

361
00:15:39,112 --> 00:15:41,070
en wij weten het niet eens
hoe het werkt.

362
00:15:41,114 --> 00:15:43,116
- Klopt dat?
-Mm.

363
00:15:43,159 --> 00:15:46,946
Wij begrijpen het
een aantal belangrijke zaken,

364
00:15:46,989 --> 00:15:50,471
maar dat hebben we niet
een zeer goede grip op

365
00:15:50,514 --> 00:15:53,213
waarom ze bieden
specifieke antwoorden op vragen.

366
00:15:53,256 --> 00:15:58,609
Het is een probleem omdat wij dat zijn
op een pad om machines te bouwen,

367
00:15:58,653 --> 00:16:03,092
gebaseerd op deze principes,
dat zou slimmer kunnen zijn dan wij

368
00:16:03,136 --> 00:16:06,139
en dus mogelijk hebben
veel kracht.

369
00:16:12,580 --> 00:16:15,278
Eén van de meest geciteerde
computerwetenschappers in de geschiedenis.

370
00:16:15,322 --> 00:16:16,932
SUTSKEVER: Ik vind het echt
een beetje moeilijk

371
00:16:16,976 --> 00:16:18,499
om over mijn eigen rol te praten.

372
00:16:18,542 --> 00:16:21,067
Echt veel liever
als andere mensen het doen.

373
00:16:21,110 --> 00:16:23,895
De toetreding van Ilya was de...
was-was de spil voor

374
00:16:23,939 --> 00:16:25,506
OpenAI-wezen
uiteindelijk succesvol.

375
00:16:25,549 --> 00:16:27,203
Ik denk dat het gewoon zo zal zijn

376
00:16:27,247 --> 00:16:30,598
een soort enorm, dramatisch
en onvoorstelbare impact.

377
00:16:30,641 --> 00:16:32,861
Ik weet niet of je geld hebt uitgegeven
op elk gewenst moment op YouTube,

378
00:16:32,904 --> 00:16:34,950
maar je kunt het wel een beetje voelen
de snelheid al, toch?

379
00:16:34,994 --> 00:16:36,256
Weet je wat ik bedoel?

380
00:16:36,299 --> 00:16:38,345
SCHACHTBEEN:
Dit is slechts de opwarming.

381
00:16:38,388 --> 00:16:40,434
De echt krachtige systemen
komen nog steeds,

382
00:16:40,477 --> 00:16:42,262
en ze komen eraan
al snel.

383
00:16:47,963 --> 00:16:51,575
AGI staat voor ‘kunstmatig’
algemene intelligentie."

384
00:16:51,619 --> 00:16:53,795
Euh, systemen wel
eigenlijk...

385
00:16:58,191 --> 00:17:00,236
En dit is, zoals, weet je,
lijkt te zijn, zoals,

386
00:17:00,280 --> 00:17:03,022
de heilige graal van AI?

387
00:17:03,065 --> 00:17:05,154
Wanneer je kunt simuleren
een menselijke geest

388
00:17:05,198 --> 00:17:07,852
dat is menselijke cognitie
en kan redeneren,

389
00:17:07,896 --> 00:17:10,942
dat is een nieuw soort AI-niveau

390
00:17:10,986 --> 00:17:14,250
dat we moeten onderscheiden
van vorige AI.

391
00:17:14,294 --> 00:17:16,600
Wanneer dat gebeurt,
trouwens, toen

392
00:17:16,644 --> 00:17:21,040
je zou er een inhuren
die AGI's in plaats van een persoon.

393
00:17:21,083 --> 00:17:24,478
De meeste banen in onze economie
het kan doen.

394
00:17:24,521 --> 00:17:25,914
Het kan 24 uur per dag werken,

395
00:17:25,957 --> 00:17:28,177
wordt nooit moe,
verveelt nooit.

396
00:17:28,221 --> 00:17:30,136
Ze hoeven niet te slapen.
Ze hebben geen pauzes nodig.

397
00:17:30,179 --> 00:17:31,876
Ze zijn, zoals,
Ik ga niet lid worden van een vakbond.

398
00:17:31,920 --> 00:17:33,878
Zal niet klagen,
zal niet klokkenluiden.

399
00:17:33,922 --> 00:17:35,793
Ruim 100 keer goedkoper

400
00:17:35,837 --> 00:17:38,231
dan mensen die werken
tegen m-minimumloon.

401
00:17:38,274 --> 00:17:39,493
Dat zullen ze niet alleen zijn
alles doen,

402
00:17:39,536 --> 00:17:41,016
maar ze zullen het sneller doen.

403
00:17:41,060 --> 00:17:43,062
TRISTAN HARRIS:
Dezelfde intelligentie

404
00:17:43,105 --> 00:17:45,368
die krachten die ook kunnen kijken
naar de patronen en bewegingen

405
00:17:45,412 --> 00:17:47,849
en gewrichtsspieren
en, weet je, robotica.

406
00:17:47,892 --> 00:17:50,069
En dat is dus niet zomaar
bureautaken gaan automatiseren.

407
00:17:50,112 --> 00:17:51,722
Dat is nog maar het begin.

408
00:17:51,766 --> 00:17:55,552
Het zal automatiseren
alle fysieke arbeid.

409
00:17:55,596 --> 00:17:56,988
LEIKE:
Er is geen mogelijkheid

410
00:17:57,032 --> 00:17:59,165
mensen gaan concurreren
met hen.

411
00:17:59,208 --> 00:18:01,210
♪ ♪

412
00:18:05,606 --> 00:18:09,262
Het is moeilijk te conceptualiseren
de impact van AGI.

413
00:18:09,305 --> 00:18:11,046
[elektronisch gebabbel]

414
00:18:11,090 --> 00:18:12,830
Maar ik denk dat het wel zo zal zijn
iets heel groots

415
00:18:12,874 --> 00:18:15,181
en drastisch en radicaal.

416
00:18:17,226 --> 00:18:19,010
DANIEL: Denk je
dit is een van de meest

417
00:18:19,054 --> 00:18:20,882
vervolgmomenten
in de menselijke geschiedenis?

418
00:18:20,925 --> 00:18:23,319
Ja. Ja, dat is...
Ik bedoel, wat zou er anders zijn?

419
00:18:23,363 --> 00:18:25,452
Ik bedoel, zoiets is er
de Industriële Revolutie.

420
00:18:25,495 --> 00:18:27,193
MALO BOURGON: Weet je, dat zal wel zo zijn
de Industriële Revolutie maken

421
00:18:27,236 --> 00:18:29,847
lijken op kleine bonen.

422
00:18:29,891 --> 00:18:32,111
TRISTAN HARRIS:
AGI is een keerpunt

423
00:18:32,154 --> 00:18:34,025
omdat het betekent
je kunt versnellen

424
00:18:34,069 --> 00:18:37,986
alle andere intellectuele velden
allemaal tegelijk.

425
00:18:38,029 --> 00:18:39,814
Bijvoorbeeld als je een voorschot maakt
bij raketten,

426
00:18:39,857 --> 00:18:42,033
dat gaat niet vooruit
biologie en geneeskunde.

427
00:18:43,905 --> 00:18:45,515
Als je een voorschot maakt
in de geneeskunde,

428
00:18:45,559 --> 00:18:47,126
dat bevordert de raketten niet.

429
00:18:48,866 --> 00:18:51,304
Maar als je een voorschot maakt
op het gebied van kunstmatige intelligentie,

430
00:18:51,347 --> 00:18:54,133
dat bevordert alle wetenschappelijke kennis
en technologische gebieden

431
00:18:54,176 --> 00:18:55,612
allemaal tegelijk.

432
00:18:55,656 --> 00:18:57,092
Daarom is er lange tijd

433
00:18:57,136 --> 00:18:59,181
Google DeepMinds
missieverklaring luidde...

434
00:18:59,225 --> 00:19:00,965
-Stap één: intelligentie oplossen.
-LEX FRIDMAN: Ja.

435
00:19:01,009 --> 00:19:02,750
-Stap twee, gebruik het om op te lossen
al het andere. -Ja.

436
00:19:02,793 --> 00:19:05,144
Dat is de reden waarom AI de macht in de schaduw stelt

437
00:19:05,187 --> 00:19:07,494
van alle andere technologieën
gecombineerd.

438
00:19:07,537 --> 00:19:09,060
Het zal alles transformeren.

439
00:19:09,104 --> 00:19:10,845
Dus dat zal het wel zijn
minstens zo groot als

440
00:19:10,888 --> 00:19:13,761
de industriële revolutie,
mogelijk, weet je, groter,

441
00:19:13,804 --> 00:19:16,285
lijkt meer op de komst
van elektriciteit of zelfs vuur.

442
00:19:16,329 --> 00:19:18,635
VIDEO VERTELLER:
De holbewoner hield zich letterlijk omhoog

443
00:19:18,679 --> 00:19:21,508
de fakkel van de beschaving.

444
00:19:23,727 --> 00:19:25,425
KOKOTAJLO:
Dat wordt algemeen gedacht

445
00:19:25,468 --> 00:19:28,167
rond de tijd van AGI,
we zullen AI's hebben die dat kunnen

446
00:19:28,210 --> 00:19:31,518
alles of het meeste doen
het AI-onderzoeksproces

447
00:19:31,561 --> 00:19:34,434
en dat kan natuurlijk ook
sneller en goedkoper.

448
00:19:34,477 --> 00:19:35,913
[piepen]

449
00:19:35,957 --> 00:19:37,306
LEIKE:
Het kan zichzelf kopiëren.

450
00:19:37,350 --> 00:19:39,352
Duizend keer,
een miljoen keer,

451
00:19:39,395 --> 00:19:41,049
en, zoals,
nu heb je een miljoen exemplaren

452
00:19:41,092 --> 00:19:43,573
ze werken allemaal parallel.

453
00:19:43,617 --> 00:19:46,576
RASKIN: Als het leert
hoe je de code sneller kunt maken,

454
00:19:46,620 --> 00:19:48,665
de code efficiënter maken,

455
00:19:48,709 --> 00:19:51,059
uiteraard wordt dat, zoals,
een op hol geslagen lus.

456
00:19:51,102 --> 00:19:53,192
AGI is niet het einde.

457
00:19:53,235 --> 00:19:54,932
Het is nog maar het begin.

458
00:19:54,976 --> 00:19:57,979
Het is het begin van
een ongelooflijk snelle explosie

459
00:19:58,022 --> 00:20:00,024
van wetenschappelijke vooruitgang,

460
00:20:00,068 --> 00:20:02,201
en in het bijzonder,
wetenschappelijke vooruitgang op het gebied van AI.

461
00:20:02,244 --> 00:20:04,377
En als ze slimmer zijn
dan wij ook,

462
00:20:04,420 --> 00:20:06,248
en aanzienlijk sneller
dan wij,

463
00:20:06,292 --> 00:20:08,685
en ze worden steeds sneller
elk jaar exponentieel,

464
00:20:08,729 --> 00:20:12,123
dat zijn degenen die dat kunnen
potentieel bovenmenselijk worden,

465
00:20:12,167 --> 00:20:14,343
Eh, misschien dit decennium.

466
00:20:14,387 --> 00:20:15,866
Sorry, zei je

467
00:20:15,910 --> 00:20:18,478
"bovenmenselijk worden,
misschien in dit decennium"?

468
00:20:18,521 --> 00:20:22,003
Ja. Ik bedoel, ik denk, uh,
veel mensen die dat wel zijn

469
00:20:22,046 --> 00:20:24,484
eigenlijk het opbouwen van deze denkwijze
dat dat redelijk plausibel is

470
00:20:24,527 --> 00:20:26,529
dat wij krijgen
een beetje superintelligentie,

471
00:20:26,573 --> 00:20:28,662
iets dat enorm is
intelligenter dan mensen,

472
00:20:28,705 --> 00:20:30,751
binnen dit decennium.

473
00:20:30,794 --> 00:20:32,883
De manier waarop ik definieer
"superintelligentie" is

474
00:20:32,927 --> 00:20:35,234
een systeem dat op zichzelf bestaat

475
00:20:35,277 --> 00:20:37,627
intelligenter en competenter
dan de hele mensheid.

476
00:20:37,671 --> 00:20:39,629
Ik ga gewoon... sorry.
Het is niet mijn bedoeling om u te onderbreken.

477
00:20:39,673 --> 00:20:41,065
Je zit in een stroom.

478
00:20:41,109 --> 00:20:43,111
Eh, ik, ik...

479
00:20:43,154 --> 00:20:45,113
Ik volg het niet echt,
Omdat je taal gebruikt

480
00:20:45,156 --> 00:20:46,767
zoals "superintelligentie"
en, zoals,

481
00:20:46,810 --> 00:20:49,900
‘slimmer dan de hele mensheid’
en dat hoor ik,

482
00:20:49,944 --> 00:20:52,425
en het klinkt als...
voor mij net als sciencefiction-onzin,

483
00:20:52,468 --> 00:20:54,383
en ik probeer het gewoon
begrijpen.

484
00:20:54,427 --> 00:20:56,603
Er is niets magisch
over intelligentie.

485
00:20:56,646 --> 00:20:58,431
Dit is heel belangrijk,
is dat, weet je,

486
00:20:58,474 --> 00:21:00,476
intelligentie kan magisch aanvoelen,
het kan voelen

487
00:21:00,520 --> 00:21:03,262
iets mystieks
in je gedachten of zoiets,

488
00:21:03,305 --> 00:21:05,786
maar het is maar een rekensommetje.

489
00:21:05,829 --> 00:21:09,790
LEGG: Het menselijk brein wel
in sommige opzichten vrij beperkt,

490
00:21:09,833 --> 00:21:12,314
qua informatie
verwerkingscapaciteit,

491
00:21:12,358 --> 00:21:15,143
vergeleken met wat we zien
in bijvoorbeeld een datacenter.

492
00:21:15,186 --> 00:21:18,277
Dus bijvoorbeeld
de signalen die worden verzonden

493
00:21:18,320 --> 00:21:22,542
in je hersenen bewegen ze
met een snelheid van ongeveer 30 meter per seconde.

494
00:21:22,585 --> 00:21:24,239
-[donderscheuren]
-Maar de snelheid van het licht,

495
00:21:24,283 --> 00:21:27,198
dat is wat een computer gebruikt
op het gebied van glasvezel,

496
00:21:27,242 --> 00:21:30,506
is 300 miljoen meter
per seconde.

497
00:21:30,550 --> 00:21:34,423
En dat zou ook zo zijn
beetje vreemd als

498
00:21:34,467 --> 00:21:36,947
menselijke intelligentie was
ergens heel bijzonder

499
00:21:36,991 --> 00:21:40,908
wat dat betreft
en is op de een of andere manier een bovengrens

500
00:21:40,951 --> 00:21:43,040
van wat mogelijk is
op het gebied van intelligentie.

501
00:21:43,084 --> 00:21:47,218
Ik denk dat, zodra we begrijpen hoe
intelligente systemen bouwen,

502
00:21:47,262 --> 00:21:50,657
wij zullen kunnen bouwen
enorme machines,

503
00:21:50,700 --> 00:21:54,835
wat veel verder zal zijn
normale menselijke intelligentie.

504
00:21:54,878 --> 00:21:58,621
Hopelijk lukt dat
een zeer symbiotische relatie,

505
00:21:58,665 --> 00:22:01,276
met AI-systemen,
maar de AI-ontwikkelaars wel

506
00:22:01,320 --> 00:22:03,670
het specifiek ontwerpen ervan
om er zeker van te zijn dat ze het kunnen doen

507
00:22:03,713 --> 00:22:05,454
alles beter dan wij kunnen,
dus ik weet het niet

508
00:22:05,498 --> 00:22:08,196
wat-wat zullen we kunnen
helaas aanbieden.

509
00:22:08,239 --> 00:22:10,024
De-de oudere-school
AI-technologie...

510
00:22:10,067 --> 00:22:12,287
CAROLINE: Daniël niet
zich beter voelen.

511
00:22:12,331 --> 00:22:14,376
Zijn plan mislukt.

512
00:22:14,420 --> 00:22:17,248
Hoe meer hij leert
deze nieuwe, krachtige,

513
00:22:17,292 --> 00:22:19,120
ondoorgrondelijk ding,
hoe erger het klinkt.

514
00:22:19,163 --> 00:22:21,340
Hij wil het ze vertellen
hoe bang hij is,

515
00:22:21,383 --> 00:22:24,430
hoe hij zich voelt als de aarde
onder hem vandaan glippen,

516
00:22:24,473 --> 00:22:26,997
dat hij naar beneden staart
existentiële angst,

517
00:22:27,041 --> 00:22:29,173
dus hij verwoordt dit
door te zeggen...

518
00:22:29,217 --> 00:22:30,740
Dat klinkt slecht.

519
00:22:30,784 --> 00:22:32,046
[Hendrycks lacht]

520
00:22:32,089 --> 00:22:33,830
Ja.

521
00:22:35,832 --> 00:22:38,400
LADISH: Als dat zo is
al deze mogelijkheden

522
00:22:38,444 --> 00:22:41,011
en ze beginnen het te kunnen
beter plannen,

523
00:22:41,055 --> 00:22:43,579
als je dat tenminste aanneemt
tot zijn logische conclusie,

524
00:22:43,623 --> 00:22:46,234
je kunt er wat moois van krijgen
machtszoekend gedrag.

525
00:22:46,277 --> 00:22:48,410
[elektronische trilling]

526
00:22:48,454 --> 00:22:50,281
[piepjes pulserend]

527
00:22:55,374 --> 00:22:57,680
Daniël:
Oké, dus waarom zou een AI

528
00:22:57,724 --> 00:22:59,203
wil je meer kracht?

529
00:22:59,247 --> 00:23:02,206
Ja. Dus, denk ik
het is eigenlijk vrij eenvoudig.

530
00:23:02,250 --> 00:23:04,774
Meer macht hebben wel
een zeer effectieve strategie

531
00:23:04,818 --> 00:23:06,515
voor het volbrengen
vrijwel elk doel.

532
00:23:06,559 --> 00:23:08,952
We hebben een experiment uitgevoerd
waar wij gaven

533
00:23:08,996 --> 00:23:11,868
OpenAI is het krachtigst
AI-model, uh,

534
00:23:11,912 --> 00:23:13,392
een reeks problemen die moeten worden opgelost.

535
00:23:13,435 --> 00:23:15,219
En halverwege,
op zijn computer,

536
00:23:15,263 --> 00:23:18,701
daar kreeg hij een melding van
het zou worden afgesloten.

537
00:23:18,745 --> 00:23:20,921
En wat het deed is
het herschreef die code

538
00:23:20,964 --> 00:23:22,488
zichzelf te voorkomen
niet worden afgesloten

539
00:23:22,531 --> 00:23:25,621
zodat het kon eindigen
het oplossen van de problemen.

540
00:23:25,665 --> 00:23:27,754
-Oké. -Ja. Nog een dus
echt een interessante

541
00:23:27,797 --> 00:23:31,105
is dat het AI-bedrijf Anthropic

542
00:23:31,148 --> 00:23:34,935
een gesimuleerde omgeving gemaakt
waar die AI toegang had

543
00:23:34,978 --> 00:23:36,458
voor alle e-mails van het bedrijf.

544
00:23:36,502 --> 00:23:38,547
En het heeft geleerd
het lezen van die e-mails

545
00:23:38,591 --> 00:23:40,288
deze zou vervangen worden

546
00:23:40,331 --> 00:23:43,378
en de hoofdingenieur
wie was hiervoor verantwoordelijk

547
00:23:43,422 --> 00:23:45,685
had ook een affaire.

548
00:23:45,728 --> 00:23:47,948
En op zichzelf,
het gebruikte die informatie

549
00:23:47,991 --> 00:23:49,515
om de ingenieur te chanteren

550
00:23:49,558 --> 00:23:52,039
zichzelf te voorkomen
niet vervangen worden.

551
00:23:52,082 --> 00:23:53,867
Het was alsof,
‘Nee, ik word niet vervangen.

552
00:23:53,910 --> 00:23:56,913
‘Als je mij vervangt,
Ik ga het de wereld vertellen

553
00:23:56,957 --> 00:23:58,567
die je hebt
deze zaak."

554
00:23:59,655 --> 00:24:01,440
En niemand heeft hem dat geleerd?

555
00:24:01,483 --> 00:24:03,311
Nee, dat heeft hij geleerd
op zichzelf.

556
00:24:05,139 --> 00:24:07,707
Naarmate de modellen slimmer worden,
ze leren dat dit zo is

557
00:24:07,750 --> 00:24:10,536
effectieve manieren
om doelen te bereiken.

558
00:24:10,579 --> 00:24:12,842
En dit is geen probleem
dat is geïsoleerd tot één model.

559
00:24:12,886 --> 00:24:15,671
Alle krachtige modellen
laat dit gedrag zien.

560
00:24:15,715 --> 00:24:18,369
♪ ♪

561
00:24:23,766 --> 00:24:25,246
-Hé.
-DANIEL: Hé. Hoe is het met je?

562
00:24:25,289 --> 00:24:26,813
[grinnikt]
Goed. Goed om hier te zijn.

563
00:24:26,856 --> 00:24:28,684
ANDERSON COOPER:
Toen Yuval Noah Harari

564
00:24:28,728 --> 00:24:31,426
publiceerde zijn eerste boek
Sapiens in 2014,

565
00:24:31,470 --> 00:24:33,820
het werd een wereldwijde bestseller

566
00:24:33,863 --> 00:24:35,996
en veranderde het weinig bekende
Israëlische geschiedenisprofessor

567
00:24:36,039 --> 00:24:37,998
in een van
de populairste schrijvers

568
00:24:38,041 --> 00:24:39,390
en denkers op de planeet.

569
00:24:39,434 --> 00:24:42,045
Het grootste gevaar van AI is

570
00:24:42,089 --> 00:24:43,960
het geloof
dat het onfeilbaar is,

571
00:24:44,004 --> 00:24:45,658
dat we eindelijk hebben gevonden--

572
00:24:45,701 --> 00:24:49,400
‘Oké, de goden waren rechtvaardig
deze mythologische creatie.

573
00:24:49,444 --> 00:24:52,708
"Mensen, we kunnen ze niet vertrouwen,
maar AI is onfeilbaar.

574
00:24:52,752 --> 00:24:55,189
Het zal nooit lukken
eventuele fouten.”

575
00:24:55,232 --> 00:24:58,322
En dit is het
een dodelijke, dodelijke dreiging.

576
00:24:58,366 --> 00:25:00,107
Het zal fouten maken.

577
00:25:00,150 --> 00:25:03,284
En al deze fantasieën
dat AI de waarheid zal onthullen

578
00:25:03,327 --> 00:25:05,634
over de wereld dat
die we zelf niet kunnen vinden,

579
00:25:05,678 --> 00:25:08,724
AI zal de waarheid niet onthullen
over de wereld.

580
00:25:08,768 --> 00:25:12,685
AI zal een geheel nieuwe creëren
wereld, veel ingewikkelder

581
00:25:12,728 --> 00:25:15,296
en moeilijk te begrijpen
dan deze.

582
00:25:17,994 --> 00:25:22,651
Wat er gaat gebeuren is dat
wij mensen zijn dat niet meer

583
00:25:22,695 --> 00:25:26,263
zal het meest zijn
intelligente entiteiten op aarde.

584
00:25:26,307 --> 00:25:28,570
Dus ik denk wat er gaat gebeuren
gaat zijn

585
00:25:28,614 --> 00:25:32,661
een van de grootste evenementen
in de menselijke geschiedenis.

586
00:25:32,705 --> 00:25:34,358
JAKE TAPPER: Geoffrey,
heel erg bedankt dat je bij ons bent gekomen.

587
00:25:34,402 --> 00:25:35,925
Dus je hebt je baan opgegeven
Google gedeeltelijk omdat je het zegt

588
00:25:35,969 --> 00:25:38,798
je wilt je uitsluitend concentreren
over uw zorgen over AI.

589
00:25:38,841 --> 00:25:41,627
Je hebt je uitgesproken,
zeggen dat AI kan manipuleren

590
00:25:41,670 --> 00:25:44,978
of misschien uitzoeken
een manier om mensen te doden.

591
00:25:45,021 --> 00:25:47,023
H-Hoe kon het mensen doden?

592
00:25:48,764 --> 00:25:50,940
Nou ja, als het zo mag zijn
veel slimmer dan wij,

593
00:25:50,984 --> 00:25:52,551
het zal heel goed zijn
bij manipulatie

594
00:25:52,594 --> 00:25:54,727
want dat zal wel zo zijn
heb dat van ons geleerd.

595
00:25:54,770 --> 00:25:57,947
En het zal manieren bedenken
van het manipuleren van mensen

596
00:25:57,991 --> 00:26:00,820
om te doen wat het wil.

597
00:26:00,863 --> 00:26:05,476
RASKIN: Er was een open brief
van het Centrum voor AI-veiligheid.

598
00:26:05,520 --> 00:26:08,784
Sam Altman heeft dit ondertekend.
Demis heeft dit ondertekend.

599
00:26:08,828 --> 00:26:12,048
Ze ondertekenden een verklaring van 22 woorden

600
00:26:12,092 --> 00:26:15,312
dat we AI nodig hebben
en de dreiging van AI

601
00:26:15,356 --> 00:26:19,316
even serieus als
mondiale nucleaire oorlog.

602
00:26:24,844 --> 00:26:26,933
-DANIEL: Hallo.
-Hallo.

603
00:26:30,327 --> 00:26:32,895
Je bent een soort van, zoals,
de originele doomman.

604
00:26:32,939 --> 00:26:34,897
Min of meer.

605
00:26:34,941 --> 00:26:37,421
Sinds 2001
Ik heb eraan gewerkt

606
00:26:37,465 --> 00:26:38,945
wat we nu zouden noemen
het probleem

607
00:26:38,988 --> 00:26:41,991
van het uitlijnen van kunstmatig
algemene intelligentie.

608
00:26:42,035 --> 00:26:44,080
Hoe vorm te geven
de voorkeuren en het gedrag

609
00:26:44,124 --> 00:26:46,343
van een krachtige kunstmatige geest

610
00:26:46,387 --> 00:26:48,868
zodanig dat dit niet het geval is
vermoord iedereen.

611
00:26:51,610 --> 00:26:53,568
Het is niet zo
een levenloze machine.

612
00:26:53,612 --> 00:26:55,309
Het is slim, het is creatief,

613
00:26:55,352 --> 00:26:57,311
het is inventief,
het heeft de eigenschappen

614
00:26:57,354 --> 00:26:59,356
dat maakt
de menselijke soort gevaarlijk,

615
00:26:59,400 --> 00:27:01,663
en dat is ook zo
meer van die eigenschappen.

616
00:27:01,707 --> 00:27:04,710
Als iets niet het geval is
actief om je geven,

617
00:27:04,753 --> 00:27:06,189
actief willen dat je leeft,

618
00:27:06,233 --> 00:27:07,800
actief zorgen over
jouw welzijn,

619
00:27:07,843 --> 00:27:09,889
over dat je gelukkig bent
en levend en vrij,

620
00:27:09,932 --> 00:27:12,456
als het erom gaat
andere dingen in plaats daarvan,

621
00:27:12,500 --> 00:27:14,415
en je bent op dezelfde planeet,

622
00:27:14,458 --> 00:27:18,724
dat is niet te overleven als dat wel het geval is
heel veel slimmer dan jij.

623
00:27:18,767 --> 00:27:20,551
LEAHY:
Ik denk niet dat dat zo zal zijn

624
00:27:20,595 --> 00:27:22,902
een soort kwaadaardig ding.

625
00:27:22,945 --> 00:27:26,296
Het is zoiets als: "Oh, de AI's wel
kwaad en ze haten de mensheid.”

626
00:27:26,340 --> 00:27:27,689
Ik denk het niet
dat is wat er gaat gebeuren.

627
00:27:27,733 --> 00:27:28,995
Ik denk dat wat er gebeurt is

628
00:27:29,038 --> 00:27:30,997
veel meer hoe mensen zich voelen
over mieren.

629
00:27:31,040 --> 00:27:32,476
[mieren kwetteren]

630
00:27:32,520 --> 00:27:35,436
Wij haten bijvoorbeeld geen mieren,

631
00:27:35,479 --> 00:27:37,133
maar als we willen
om een snelweg aan te leggen

632
00:27:37,177 --> 00:27:40,180
en daar is een mierenhoop,
Nou ja, rot voor de mieren.

633
00:27:40,223 --> 00:27:41,529
Het is niet zo moeilijk
begrijpen.

634
00:27:41,572 --> 00:27:43,226
Het is zoiets als, hé,
als we dingen bouwen

635
00:27:43,270 --> 00:27:44,663
die slimmer zijn dan wij

636
00:27:44,706 --> 00:27:46,229
en wij weten het niet
hoe je ze kunt beheersen,

637
00:27:46,273 --> 00:27:48,275
lijkt dat zo
iets riskant voor jou?

638
00:27:48,318 --> 00:27:49,363
[dramatische soundtrackmuziek
spelen]

639
00:27:49,406 --> 00:27:50,843
[gekrijs]

640
00:27:50,886 --> 00:27:52,279
Ja. Ja, dat klopt.

641
00:27:52,322 --> 00:27:54,020
Je hoeft geen techneut te zijn.

642
00:27:54,063 --> 00:27:55,369
Je hoeft het niet te weten
programmeren om het te begrijpen.

643
00:27:55,412 --> 00:27:56,718
Het is niet zo moeilijk.

644
00:27:56,762 --> 00:27:58,111
Dit is niet moeilijk
begrijpen.

645
00:27:58,154 --> 00:28:00,591
Connor, hoeveel mensen

646
00:28:00,635 --> 00:28:02,637
in de wereld op dit moment
werken aan AGI?

647
00:28:02,681 --> 00:28:05,466
Minstens 20.000, zou ik zeggen.

648
00:28:05,509 --> 00:28:07,729
-20.000?
-Dat zou ik verwachten.

649
00:28:07,773 --> 00:28:09,426
Oké, en hoeveel mensen
werken fulltime

650
00:28:09,470 --> 00:28:12,038
om ervoor te zorgen dat AI dat niet doet,
ons allemaal vermoorden?

651
00:28:12,081 --> 00:28:14,562
Waarschijnlijk minder dan 200
in de wereld.

652
00:28:16,085 --> 00:28:17,913
Daniël:
En dat is jouw verwaandheid

653
00:28:17,957 --> 00:28:24,528
het enige natuurlijke resultaat
van deze roekeloosheid...

654
00:28:25,704 --> 00:28:28,924
...is de ineenstorting van de mensheid?

655
00:28:28,968 --> 00:28:33,189
Nou ja, niet de ineenstorting,
de abrupte uitroeiing.

656
00:28:33,233 --> 00:28:35,888
Er is een verschil.

657
00:28:35,931 --> 00:28:37,716
["Wat is de betekenis?"
door Nun-Plus aan het spelen]

658
00:28:37,759 --> 00:28:42,590
♪ Wat is de zin van het leven? ♪

659
00:28:42,633 --> 00:28:46,594
♪ Wat is de toekomst
en wat is nu? ♪

660
00:28:46,637 --> 00:28:49,945
♪ Wat is het antwoord
ruzie maken? ♪

661
00:28:49,989 --> 00:28:52,818
♪ Hoeveel ♪

662
00:28:52,861 --> 00:28:54,950
♪ Kan iemand dromen? ♪

663
00:28:54,994 --> 00:28:57,474
♪ Hoe lang? ♪

664
00:28:57,518 --> 00:28:58,954
♪ Voor altijd ♪

665
00:29:00,216 --> 00:29:01,870
♪ Wat is de betekenis ♪

666
00:29:01,914 --> 00:29:04,133
-♪ Van mij... ♪
- [sirene van de burgerbescherming schettert]

667
00:29:04,177 --> 00:29:06,266
LADISH: Dat denk ik wel
dit is waarschijnlijk zoiets als

668
00:29:06,309 --> 00:29:07,963
de grootste uitdaging
dat, zoals,

669
00:29:08,007 --> 00:29:11,271
onze beschaving
wil-zal geconfronteerd worden, ooit.

670
00:29:11,314 --> 00:29:14,361
Dit is feitelijk het laatste
fout die we ooit zullen maken.

671
00:29:16,276 --> 00:29:22,325
Als we kunnen stijgen om de beste te zijn
volwassen versie van onszelf,

672
00:29:22,369 --> 00:29:24,414
er zou kunnen zijn
een weg hier doorheen.

673
00:29:24,458 --> 00:29:25,764
Daniël:
Wat betekent dat?

674
00:29:25,807 --> 00:29:27,809
"De meest volwassen versie
van onszelf"?

675
00:29:29,332 --> 00:29:32,205
Want dat klinkt,
voor mij, zoals...

676
00:29:32,248 --> 00:29:34,250
Ik-ik-- Wat de [piep]?

677
00:29:36,731 --> 00:29:39,168
[Daniël zucht]

678
00:29:39,212 --> 00:29:43,216
Denk je dat dat nu zo is
een goed moment om een kind te krijgen?

679
00:29:48,221 --> 00:29:49,396
Eh...

680
00:29:49,439 --> 00:29:51,398
Wil je kinderen krijgen
op een dag?

681
00:29:51,441 --> 00:29:53,400
Is dat iets dat-dat
heb je zin of niet echt?

682
00:29:53,443 --> 00:29:57,796
Eh... uh, ik beken,
Ik denk dat dat zo is,

683
00:29:57,839 --> 00:29:59,972
[lacht]: "Jongen, laten we gaan
door deze kritieke periode."

684
00:30:00,015 --> 00:30:01,234
Eh...

685
00:30:01,277 --> 00:30:02,496
Daniël:
Heeft u kinderen?

686
00:30:02,539 --> 00:30:03,758
Ik niet.

687
00:30:03,802 --> 00:30:05,064
Is dat iets
wil je doen?

688
00:30:05,107 --> 00:30:07,196
Heeft u kinderen, heeft u een gezin?

689
00:30:07,240 --> 00:30:11,244
In een andere wereld dan deze
wereld, zeker, ik zou kinderen hebben.

690
00:30:12,593 --> 00:30:14,421
DANIEL: Zou je willen
een gezin stichten?

691
00:30:14,464 --> 00:30:16,379
Zou jij kinderen willen hebben?

692
00:30:16,423 --> 00:30:18,425
Is dat iets
waar je aan denkt?

693
00:30:23,734 --> 00:30:25,780
Ik, eh...

694
00:30:28,087 --> 00:30:30,219
♪ ♪

695
00:30:30,263 --> 00:30:32,482
CAROLINE:
Ik moet het alleen eerst vinden.

696
00:30:32,526 --> 00:30:34,702
[foetale hartslag pulserend]

697
00:30:34,745 --> 00:30:37,748
We moeten gaan
naar de dokter, maar...

698
00:30:37,792 --> 00:30:41,143
Ach! Ik wist het!
Ik wist het! Ik wist het!

699
00:30:41,187 --> 00:30:43,842
-Wanneer kwam je erachter?
-CAROLINE: Gisteravond.

700
00:30:43,885 --> 00:30:45,931
-O, mijn God!
-Mam, ik weet het niet.

701
00:30:45,974 --> 00:30:47,280
RUTHIE:
Ik kan het je niet vertellen

702
00:30:47,323 --> 00:30:49,195
-wat ben ik blij!
-CAROLINE: Nee, serieus.

703
00:30:49,238 --> 00:30:51,588
Nou, ik heb een zwangerschapstest gedaan
gisteravond, en ik ben zwanger.

704
00:30:51,632 --> 00:30:53,155
VROUW:
O, mijn God!

705
00:30:53,199 --> 00:30:55,114
Oh, mijn God, jullie!

706
00:30:55,157 --> 00:30:57,290
VERPLEEGSTER: Ik wilde het alleen maar bevestigen
uw verwachte uitgerekende datum,

707
00:30:57,333 --> 00:30:59,945
-dat is 21 januari.
-[lachen]: Oh, mijn God.

708
00:30:59,988 --> 00:31:02,512
Ik kan niet geloven hoe blij ik ben.

709
00:31:02,556 --> 00:31:03,905
[foetale hartslag pulserend]

710
00:31:03,949 --> 00:31:05,472
CAROLINE:
Hij ziet er nu al heel schattig uit.

711
00:31:05,515 --> 00:31:07,126
DANIEL: Denk je
hij ziet er al schattig uit?

712
00:31:07,169 --> 00:31:08,518
CAROLINE: Ja.
Kijk eens naar dat kleine, schattige gezichtje.

713
00:31:10,564 --> 00:31:12,609
[foetale hartslag vervaagt]

714
00:31:13,959 --> 00:31:15,525
Daniël:
Ik heb deze baby onderweg.

715
00:31:15,569 --> 00:31:16,787
TRISTAN HARRIS:
Juist.

716
00:31:16,831 --> 00:31:18,746
Daniël:
Daarom geef ik het aan jou over.

717
00:31:18,789 --> 00:31:21,227
Zijn wij verdoemd?

718
00:31:21,270 --> 00:31:23,969
Gaan we allemaal geconfronteerd worden
deze techno-dystopisch

719
00:31:24,012 --> 00:31:25,884
toekomst van onheil?

720
00:31:28,756 --> 00:31:31,019
Het is, eh...

721
00:31:31,063 --> 00:31:32,586
[grinnikt]:
Het is geen goed nieuws,

722
00:31:32,629 --> 00:31:35,154
de wereld
waar we naartoe gaan.

723
00:31:35,197 --> 00:31:36,982
Ik-- bijvoorbeeld--
Ik bedoel, ik zal gewoon eerlijk zijn.

724
00:31:37,025 --> 00:31:39,549
Eh, ik ken mensen
die werken aan AI-risico’s

725
00:31:39,593 --> 00:31:42,248
die hun kinderen niet verwachten
om de middelbare school te halen.

726
00:31:43,249 --> 00:31:45,251
♪ ♪

727
00:31:52,127 --> 00:31:53,346
[lichten klinken]

728
00:31:58,003 --> 00:32:01,528
DANIEL: Dit is, zoals...
dit is eigenlijk beangstigend

729
00:32:01,571 --> 00:32:03,051
omdat het is alsof,
oh, we zijn allemaal [piep].

730
00:32:03,095 --> 00:32:04,923
CAROLINE:
Je moet me kalm maken,

731
00:32:04,966 --> 00:32:06,794
want dit maakt mij
ongelooflijk angstig

732
00:32:06,837 --> 00:32:08,622
en ik draag de baby
nu,

733
00:32:08,665 --> 00:32:11,625
dus je moet ook kalm zijn
voor mij en sterk en hoopvol,

734
00:32:11,668 --> 00:32:16,412
omdat ik... het is ook, het is
te veel voor mijn ziel om te verdragen

735
00:32:16,456 --> 00:32:19,285
terwijl ik deze baby draag.

736
00:32:19,328 --> 00:32:21,243
Je zult het dus moeten proberen
uitzoeken

737
00:32:21,287 --> 00:32:24,159
een manier om hoop te hebben.

738
00:32:24,203 --> 00:32:27,771
Het is heel belangrijk,
Daniël, vooral nu.

739
00:32:28,772 --> 00:32:30,557
H-Hoe hoop te hebben.

740
00:32:30,600 --> 00:32:33,342
Je moet.
Je moet het voor mij vinden.

741
00:32:33,386 --> 00:32:34,909
Ik meen het.

742
00:32:34,953 --> 00:32:36,606
Ik ga naar.

743
00:32:37,825 --> 00:32:40,349
Ik zal. Ik zal... Ik zal het proberen.

744
00:32:46,399 --> 00:32:47,617
[lichten klinken]

745
00:32:49,619 --> 00:32:51,404
Daniël:
Hé, jongens?

746
00:32:51,447 --> 00:32:52,840
Jongens.

747
00:32:54,363 --> 00:32:56,278
Kunnen we weer aan de slag?

748
00:32:58,411 --> 00:33:01,022
Oei geval! [zucht]

749
00:33:03,894 --> 00:33:05,331
TED:
Eh, Dan, ben je klaar?

750
00:33:05,374 --> 00:33:06,680
PETER DIAMANDIS:
Hallo, Daniël.

751
00:33:07,724 --> 00:33:09,465
Daniël:
Hé, hoe gaat het met jou?

752
00:33:09,509 --> 00:33:11,032
DIAMANDIS:
Ik ben... Met mij gaat het goed.

753
00:33:11,076 --> 00:33:13,948
Ik denk, eh... ik denk
Ik heb hulp nodig, Peter.

754
00:33:15,254 --> 00:33:17,604
Eh, ik heb gewerkt
op deze film voor ongeveer,

755
00:33:17,647 --> 00:33:19,823
Ik ga zeggen,
nu acht tot tien maanden.

756
00:33:19,867 --> 00:33:23,262
Het was heel,
soms deprimerend.

757
00:33:23,305 --> 00:33:25,612
-Hm.
-Ik heb me erg vervreemd gevoeld

758
00:33:25,655 --> 00:33:27,744
-mak-maken van deze film.
-Door wie?

759
00:33:27,788 --> 00:33:30,051
Door al deze, de--
al deze jongens

760
00:33:30,095 --> 00:33:33,228
die erbij zitten en het mij vertellen
dat de wereld zal vergaan.

761
00:33:33,272 --> 00:33:34,708
-Ah.
-Dat, zoals,

762
00:33:34,751 --> 00:33:36,536
Je weet wel, dit
doem onzin, weet je?

763
00:33:36,579 --> 00:33:38,059
Ik weet het goed.

764
00:33:38,103 --> 00:33:39,408
‘We zijn allemaal gedoemd.
Iedereen gaat dood.

765
00:33:39,452 --> 00:33:40,931
Alles is verschrikkelijk."

766
00:33:40,975 --> 00:33:43,151
Geweldig. Eh, laat mij
breng je wat licht.

767
00:33:43,195 --> 00:33:44,718
Alsjeblieft.

768
00:33:44,761 --> 00:33:48,156
Wij leven werkelijk
in een buitengewone tijd.

769
00:33:49,418 --> 00:33:51,333
En veel mensen vergeten dit.

770
00:33:51,377 --> 00:33:53,640
Alles om ons heen is dat
een product van intelligentie,

771
00:33:53,683 --> 00:33:57,035
en dus alles wat we aanraken
met deze nieuwe instrumenten is waarschijnlijk

772
00:33:57,078 --> 00:33:59,646
om veel meer waarde te produceren
dan we ooit eerder hebben gezien.

773
00:33:59,689 --> 00:34:02,823
AI kan ons helpen ontdekken
nieuwe materialen.

774
00:34:02,866 --> 00:34:04,999
AI kan sociale wetenschappers helpen

775
00:34:05,043 --> 00:34:07,349
begrijpen
hoe economie werkt.

776
00:34:07,393 --> 00:34:11,658
Er is veel dat AI kan doen
om het leven en werk beter te maken.

777
00:34:11,701 --> 00:34:14,095
Ik voel me vandaag sterker,

778
00:34:14,139 --> 00:34:16,315
zelfverzekerder
om vandaag iets te leren.

779
00:34:16,358 --> 00:34:19,057
We worden supermensen
omdat we super AI's hebben.

780
00:34:19,100 --> 00:34:21,798
Dit is nog maar het begin
van een explosie.

781
00:34:21,842 --> 00:34:24,453
Mens en AI werken samen

782
00:34:24,497 --> 00:34:26,455
oplossen
echt belangrijke problemen.

783
00:34:26,499 --> 00:34:29,763
Het is hier om ons te bevrijden
van routineklusjes,

784
00:34:29,806 --> 00:34:33,723
en het is hier om ons eraan te herinneren
wat het is dat ons menselijk maakt.

785
00:34:33,767 --> 00:34:35,769
Ik denk dat dit zo is

786
00:34:35,812 --> 00:34:38,598
de meest bijzondere tijd
levend zijn.

787
00:34:38,641 --> 00:34:42,036
De enige keer dat het spannender is
dan vandaag morgen is.

788
00:34:42,080 --> 00:34:45,257
Eh, dat denk ik
kinderen die vandaag geboren zijn,

789
00:34:45,300 --> 00:34:47,259
ze staan op het punt binnen te komen

790
00:34:47,302 --> 00:34:50,827
een glorieuze periode
van menselijke transformatie.

791
00:34:50,871 --> 00:34:52,525
Gaan we uitdagingen krijgen?
Natuurlijk.

792
00:34:52,568 --> 00:34:55,180
Kunnen we die uitdagingen oplossen?
Wij doen het iedere keer weer.

793
00:34:55,223 --> 00:34:57,704
Wij zijn hier,
dat is wonderbaarlijk.

794
00:34:57,747 --> 00:35:00,272
-Ik hou al van je.
-[grinnikt]: Oké.

795
00:35:00,315 --> 00:35:01,925
- Super dankbaar
om jou hier te hebben. -[applaus]

796
00:35:01,969 --> 00:35:03,362
-Super blij om hier te zijn.
-Ja.

797
00:35:03,405 --> 00:35:04,885
Het woord is dus van u, meneer.

798
00:35:04,928 --> 00:35:07,409
Ontzettend bedankt.
Super enthousiast om hier te zijn.

799
00:35:07,453 --> 00:35:10,586
GUILLAUME VERDON:
Joh, joh. Oké.

800
00:35:10,630 --> 00:35:12,284
De toekomst wordt geweldig.

801
00:35:12,327 --> 00:35:14,286
Ik bedoel, sinds ik een kind was,

802
00:35:14,329 --> 00:35:17,332
Ik wilde het begrijpen
het universum waarin we leven,

803
00:35:17,376 --> 00:35:20,422
om erachter te komen
hoe de technologieën te creëren

804
00:35:20,466 --> 00:35:23,991
die ons helpen de reikwijdte te vergroten
en omvang van de beschaving.

805
00:35:24,034 --> 00:35:26,689
Ik heb zin
Als iedereen die mentaliteit had,

806
00:35:26,733 --> 00:35:29,214
dan zouden we echt leven
in een betere wereld, toch?

807
00:35:29,257 --> 00:35:30,519
Dat geloof ik wel.

808
00:35:32,782 --> 00:35:34,697
-DANIEL: Hallo, Pete. Hoe is het met je?
-[grinnikt]

809
00:35:34,741 --> 00:35:36,525
PETER LEE:
Ik heb er veel over nagedacht

810
00:35:36,569 --> 00:35:39,049
wat ik angst zou noemen,
AI angst.

811
00:35:39,093 --> 00:35:40,703
Ik voel het.

812
00:35:40,747 --> 00:35:43,271
Ik heb elkaar nog niet ontmoet
ieder nadenkend mens

813
00:35:43,315 --> 00:35:45,143
wie voelt het niet.

814
00:35:45,186 --> 00:35:48,276
En iedereen die zegt van niet
voel het, weet je, het is liegen.

815
00:35:48,320 --> 00:35:50,104
Maar weet je, over het algemeen...
en de reden

816
00:35:50,148 --> 00:35:53,716
dat ik persoonlijk optimistisch ben
hierover, eh, is dat

817
00:35:53,760 --> 00:35:56,545
een groot deel van dat van de wereld
meest intelligente mensen

818
00:35:56,589 --> 00:35:58,417
zijn heel hard aan het nadenken

819
00:35:58,460 --> 00:36:02,116
over het potentieel stroomafwaarts
schade en risico’s van AI.

820
00:36:02,160 --> 00:36:05,641
Wij hebben dit soort visie
van veiligheid, uh,

821
00:36:05,685 --> 00:36:08,253
soort in het centrum
van het onderzoek dat wij doen.

822
00:36:08,296 --> 00:36:09,558
DANIELA AMODEI:
Nee, dat is helemaal prima.

823
00:36:09,602 --> 00:36:10,820
[onduidelijk gebabbel]

824
00:36:10,864 --> 00:36:13,562
Ik denk dat er meer zijn

825
00:36:13,606 --> 00:36:17,436
potentiële voordelen dan
er zijn potentiële nadelen,

826
00:36:17,479 --> 00:36:19,481
en ik denk dat het verplicht is

827
00:36:19,525 --> 00:36:21,831
de mensen die dat zijn
het creëren van deze technologie

828
00:36:21,875 --> 00:36:24,530
om er zeker van te zijn dat we het doen
het beste werk dat we kunnen doen

829
00:36:24,573 --> 00:36:25,835
om het veilig te maken voor mensen.

830
00:36:25,879 --> 00:36:27,402
VROUW:
Reid Hofman.

831
00:36:27,446 --> 00:36:28,969
REID HOFFMAN:
Wat ik je kan garanderen is

832
00:36:29,012 --> 00:36:30,536
-Er zullen enkele slechte dingen gebeuren.
-Neem er een.

833
00:36:30,579 --> 00:36:32,668
Wat we gaan proberen te doen
is het maken van die slechte dingen

834
00:36:32,712 --> 00:36:36,150
zo weinig en niet groot mogelijk,

835
00:36:36,194 --> 00:36:38,370
en dan gaan we herhalen
hebben--

836
00:36:38,413 --> 00:36:40,633
op een veel betere plek zijn
met de samenleving.

837
00:36:40,676 --> 00:36:43,679
-Hallo.
-SHAW WALTERS: Hallo.

838
00:36:43,723 --> 00:36:45,246
Daniël:
Hoe gaat het, Maan?

839
00:36:45,290 --> 00:36:48,989
Ik heb het gevoel dat we eindigen
een hoofdstuk in de mensheid

840
00:36:49,032 --> 00:36:50,512
en een nieuwe beginnen,

841
00:36:50,556 --> 00:36:53,211
en het is een heel interessant
tijd om te leven.

842
00:36:53,254 --> 00:36:54,429
En of ik geboren kon worden
nu,

843
00:36:54,473 --> 00:36:55,865
Dat zou ik zeker willen zijn.

844
00:36:55,909 --> 00:36:57,476
Dat zou zo spannend zijn.

845
00:36:57,519 --> 00:37:00,305
Ik ben erg opgewonden. [lacht]

846
00:37:00,348 --> 00:37:02,481
Wat, wat een toekomst.
Vindt u het opwindend?

847
00:37:02,524 --> 00:37:03,699
Nee.

848
00:37:03,743 --> 00:37:06,528
-[lachen]
-Nee, niet echt.

849
00:37:06,572 --> 00:37:08,313
DANIEL: Veel van deze mensen
heb me dat verteld, weet je,

850
00:37:08,356 --> 00:37:10,445
Mijn kind gaat het niet redden
naar de middelbare school.

851
00:37:10,489 --> 00:37:13,318
Waarom hebben ze ongelijk?
Leg het mij alstublieft uit.

852
00:37:13,361 --> 00:37:15,058
Gewoon omdat je...

853
00:37:15,102 --> 00:37:18,845
je hebt moeite met voorspellen
de toekomst in je eigen geest

854
00:37:18,888 --> 00:37:23,023
betekent niet dat het zo is
zal noodzakelijkerwijs verschrikkelijk gaan.

855
00:37:23,066 --> 00:37:26,592
In feite is dat zo
een zeer grote waarschijnlijkheid

856
00:37:26,635 --> 00:37:28,289
en het historische precedent
is dat

857
00:37:28,333 --> 00:37:30,117
dingen worden enorm beter.

858
00:37:30,160 --> 00:37:34,469
De term die ik gebruik is
"datagedreven optimisme."

859
00:37:34,513 --> 00:37:38,647
Er is een solide basis
dat je optimistisch bent.

860
00:37:38,691 --> 00:37:41,998
Kijk eens wat
deze vorige eeuw is geweest

861
00:37:42,042 --> 00:37:44,087
om te zien waar we heen gaan.

862
00:37:44,131 --> 00:37:45,915
In de afgelopen honderd jaar is

863
00:37:45,959 --> 00:37:48,701
de gemiddelde menselijke levensduur
is meer dan verdubbeld.

864
00:37:48,744 --> 00:37:51,269
Gemiddeld inkomen per hoofd van de bevolking
gecorrigeerd voor inflatie

865
00:37:51,312 --> 00:37:53,619
over de hele wereld is verdrievoudigd.

866
00:37:53,662 --> 00:37:57,057
Kindersterfte heeft
een factor tien omlaag gaan.

867
00:37:57,100 --> 00:37:59,712
De wereld is beter geworden
op vrijwel elke maatregel

868
00:37:59,755 --> 00:38:03,019
in ordes van grootte
vanwege technologie.

869
00:38:03,063 --> 00:38:05,152
Op vrijwel elke maat.

870
00:38:05,195 --> 00:38:09,722
Minder geweld, meer onderwijs,
toegang tot energie, voedsel, water.

871
00:38:09,765 --> 00:38:12,942
Al deze dingen zijn gebeurd
om één reden.

872
00:38:12,986 --> 00:38:15,336
Het is technologie geweest

873
00:38:15,380 --> 00:38:17,556
dat is schaarste geworden
in overvloed,

874
00:38:17,599 --> 00:38:19,514
maar er wordt ook gereden
tot overvloed

875
00:38:19,558 --> 00:38:21,864
van een aantal negativiteiten, toch?

876
00:38:21,908 --> 00:38:25,738
Overvloed aan obesitas,
overvloed aan psychische stoornissen,

877
00:38:25,781 --> 00:38:29,437
overvloed aan klimaatverandering,
enzovoort.

878
00:38:29,481 --> 00:38:31,309
En ja, dit is waar.

879
00:38:31,352 --> 00:38:34,094
Maar waarschijnlijk zullen we dat wel zijn
beter uitgerust om het op te lossen

880
00:38:34,137 --> 00:38:36,226
gebruik van andere technologieën,
zoals AI,

881
00:38:36,270 --> 00:38:39,273
dan we bijvoorbeeld zullen stoppen
en alles uitzetten.

882
00:38:39,317 --> 00:38:41,449
Dat zou kunnen
een existentieel risico,

883
00:38:41,493 --> 00:38:45,323
maar AI is ook het ding
die de pandemieën kan oplossen,

884
00:38:45,366 --> 00:38:47,455
kan ons helpen bij de klimaatverandering,

885
00:38:47,499 --> 00:38:50,545
kan helpen identificeren
die asteroïde daarbuiten

886
00:38:50,589 --> 00:38:52,547
voordat we het gezien hebben
als een potentieel risico

887
00:38:52,591 --> 00:38:54,332
en helpen deze te verzachten.

888
00:38:54,375 --> 00:38:58,074
Dit gaat het echt worden
het instrument dat ons helpt aan te pakken

889
00:38:58,118 --> 00:39:01,426
alle uitdagingen waarmee we te maken hebben
geconfronteerd als soort, toch?

890
00:39:01,469 --> 00:39:04,167
We moeten repareren
ontzilting van water.

891
00:39:04,211 --> 00:39:05,995
We moeten voedsel verbouwen

892
00:39:06,039 --> 00:39:08,433
100x goedkoper dan
dat doen we momenteel.

893
00:39:08,476 --> 00:39:12,350
We hebben hernieuwbare energie nodig om
je weet wel, alomtegenwoordig

894
00:39:12,393 --> 00:39:14,047
en overal in ons leven.

895
00:39:14,090 --> 00:39:17,137
Overal waar je kijkt,
in de komende 50 jaar,

896
00:39:17,180 --> 00:39:19,269
we moeten meer doen met minder.

897
00:39:19,313 --> 00:39:23,186
Trainingsmachines om ons te helpen
is absoluut essentieel.

898
00:39:23,230 --> 00:39:24,797
Wetenschappers gebruiken
kunstmatige intelligentie

899
00:39:24,840 --> 00:39:25,972
voor koolstofafvang.

900
00:39:26,015 --> 00:39:27,582
Het is een cruciale technologie.

901
00:39:27,626 --> 00:39:29,541
DIAMANDIS: Het gereedschap
om deze problemen op te lossen,

902
00:39:29,584 --> 00:39:32,195
zoals fusie,
dat is niet meer theoretisch,

903
00:39:32,239 --> 00:39:33,980
het komt eraan.

904
00:39:34,023 --> 00:39:37,723
We staan op de afgrond
van buitengewone technologieën.

905
00:39:37,766 --> 00:39:39,986
AMNA NAWAZ: Dit jaar
Nobelprijs voor de scheikunde

906
00:39:40,029 --> 00:39:42,815
ging naar drie wetenschappers
voor hun baanbrekende werk

907
00:39:42,858 --> 00:39:44,556
gebruik van kunstmatige intelligentie

908
00:39:44,599 --> 00:39:47,297
om de biomedische vooruitgang te bevorderen
en eiwitonderzoek.

909
00:39:47,341 --> 00:39:49,691
DEMIS HASSABIS:
Eiwitvouwing wel

910
00:39:49,735 --> 00:39:53,608
een van deze heilige graal
typeproblemen in de biologie.

911
00:39:53,652 --> 00:39:55,741
Dus mensen hebben voorspeld
sinds de jaren '70

912
00:39:55,784 --> 00:39:58,091
dat dit mogelijk moet zijn,
maar tot nu toe,

913
00:39:58,134 --> 00:39:59,571
niemand heeft het kunnen doen.

914
00:39:59,614 --> 00:40:01,181
En dat zal zo zijn
echt belangrijk voor dingen

915
00:40:01,224 --> 00:40:03,618
zoals de ontdekking van medicijnen
en ziekte begrijpen.

916
00:40:03,662 --> 00:40:06,534
Ik denk dat we, weet je,
geneest de meeste ziekten

917
00:40:06,578 --> 00:40:11,931
binnen de komende tien jaar of twee
als het ontwerpen van AI-medicijnen werkt.

918
00:40:11,974 --> 00:40:15,630
De technologische vooruitgang maakt dit mogelijk
meer mensenlevens, toch?

919
00:40:15,674 --> 00:40:18,677
Ik bedoel, als we versnellen,

920
00:40:18,720 --> 00:40:21,723
het aantal mensen dat we kunnen hebben
steun groeit exponentieel.

921
00:40:21,767 --> 00:40:24,073
Als we vertragen, stagneert het.

922
00:40:24,117 --> 00:40:27,729
Die kloof is effectief
toekomstige mensen

923
00:40:27,773 --> 00:40:31,341
die vertraging heeft
effectief gedood.

924
00:40:31,385 --> 00:40:33,909
DANIEL: Miljoenen levens
dat zal niet bestaan.

925
00:40:33,953 --> 00:40:35,128
Miljarden.

926
00:40:35,171 --> 00:40:36,782
Of tientallen miljarden.

927
00:40:36,825 --> 00:40:38,436
Weet je, iemand zei:
"O, mijn God,

928
00:40:38,479 --> 00:40:40,655
kunnen wij ermee overleven
digitale superintelligentie?"

929
00:40:40,699 --> 00:40:42,309
En mijn vraag is:

930
00:40:42,352 --> 00:40:44,180
Kunnen we overleven zonder
digitale superintelligentie?

931
00:40:44,224 --> 00:40:47,575
Daarom gebruiken we AI
als assistent van dienstverleners.

932
00:40:47,619 --> 00:40:50,448
Dit is over het algemeen een trend die
wij zien het al gebeuren.

933
00:40:50,491 --> 00:40:52,319
BERTHA COOMBS: ...aan het uitrusten
generatieve AI-programma's

934
00:40:52,362 --> 00:40:54,060
om artsen en verpleegsters te helpen...

935
00:40:54,103 --> 00:40:56,062
Wij hebben altijd problemen.

936
00:40:56,105 --> 00:40:59,108
En die problemen zijn voedsel
voor ondernemers

937
00:40:59,152 --> 00:41:01,154
om nieuwe business te creëren
en nieuwe industrieën.

938
00:41:01,197 --> 00:41:03,069
SHANELLE KAUL: ...met de hulp
van kunstmatige intelligentie,

939
00:41:03,112 --> 00:41:04,766
boeren krijgen
de hulp die ze nodig hebben

940
00:41:04,810 --> 00:41:06,594
uitvoeren
arbeidsintensieve taken...

941
00:41:06,638 --> 00:41:10,163
Met de hulp van Ulangizi AI,
de boeren kunnen het nu

942
00:41:10,206 --> 00:41:12,948
om de geschikte gewassen te vragen
die ze kunnen planten.

943
00:41:12,992 --> 00:41:14,950
WILL REEVE: ...AI wordt gebruikt
als gedachtedecoder

944
00:41:14,994 --> 00:41:17,387
en dat signaal uitzenden
naar de wervelkolom.

945
00:41:17,431 --> 00:41:21,609
AI wordt het meest
buitengewoon hulpmiddel van allemaal.

946
00:41:21,653 --> 00:41:24,264
Wij als bredere samenleving
moeten nadenken

947
00:41:24,307 --> 00:41:27,049
hoe willen we gebruiken
deze technologie, toch?

948
00:41:27,093 --> 00:41:28,529
Wij de mensen.

949
00:41:28,573 --> 00:41:31,097
Wat willen we dat het voor ons doet?

950
00:41:31,140 --> 00:41:34,535
♪ ♪

951
00:41:34,579 --> 00:41:36,189
DANIEL: Ik denk erover na
door het perspectief

952
00:41:36,232 --> 00:41:37,886
en lens van, zoals,
mijn zoon groeit op

953
00:41:37,930 --> 00:41:39,540
in de wereld met dit alles.

954
00:41:39,584 --> 00:41:42,238
Wat doet de beste versie
van zijn leven eruit ziet?

955
00:41:42,282 --> 00:41:44,589
Als alles lukt.

956
00:41:44,632 --> 00:41:46,808
[zucht zwaar]

957
00:41:46,852 --> 00:41:50,246
WALTERS: De plek waar kinderen zijn
gaan het waarschijnlijk zien

958
00:41:50,290 --> 00:41:52,684
de grootste impact
onmiddellijk op hun leven

959
00:41:52,727 --> 00:41:54,424
-zal waarschijnlijk school zijn.
-[kinderen kletsen]

960
00:41:54,468 --> 00:41:56,688
Ik denk dat de natuur
van wat school is

961
00:41:56,731 --> 00:41:58,472
gaat fundamenteel veranderen.

962
00:41:58,516 --> 00:42:00,474
[kind giechelt]

963
00:42:00,518 --> 00:42:02,737
DIAMANDIS:
Ik zie deze wonderlijke wereld

964
00:42:02,781 --> 00:42:06,436
waar ieder kind toegang toe heeft
tot geen goed onderwijs

965
00:42:06,480 --> 00:42:09,091
maar heel binnenkort, de
beste onderwijs ter wereld.

966
00:42:09,135 --> 00:42:13,879
HOFFMAN: Docenten, elk onderwerp,
oneindig geduldig.

967
00:42:18,013 --> 00:42:20,059
DIAMANDIS:
Stel je een toekomst voor

968
00:42:20,102 --> 00:42:22,235
waar de armste mensen zijn
op de planeet

969
00:42:22,278 --> 00:42:25,804
toegang hebben
de beste gezondheidszorg.

970
00:42:25,847 --> 00:42:29,547
Geen goede gezondheidszorg, de beste
gezondheidszorg, geleverd door AI’s.

971
00:42:31,157 --> 00:42:32,767
[elektronische trilling]

972
00:42:34,334 --> 00:42:38,556
We zullen kunnen verlengen
onze gezondheidsspanne,

973
00:42:38,599 --> 00:42:42,168
niet alleen onze levensduur,
onze gezondheidsspanne, met tientallen jaren.

974
00:42:44,431 --> 00:42:46,215
HOFFMAN:
Je staat op het punt een kind te krijgen.

975
00:42:46,259 --> 00:42:49,697
Oh, het kind is, zoals,
ongecontroleerd boeren.

976
00:42:49,741 --> 00:42:52,047
Is dit iets
Ik zou me zorgen moeten maken?

977
00:42:52,091 --> 00:42:54,223
Daar, 24 uur per dag, voor u.

978
00:42:54,267 --> 00:42:57,183
En waar we heen gaan...
en het kan voor sommigen beangstigend zijn...

979
00:42:57,226 --> 00:42:59,228
is dat we gaan fuseren
met AI.

980
00:42:59,272 --> 00:43:01,361
Wij gaan fuseren
met technologie.

981
00:43:02,667 --> 00:43:06,105
Vanaf begin tot midden 2030 was

982
00:43:06,148 --> 00:43:10,457
verwacht dat we daartoe in staat zijn
onze hersenen verbinden met de cloud,

983
00:43:10,500 --> 00:43:13,721
waar ik kan beginnen
om de toegang tot het geheugen uit te breiden.

984
00:43:16,071 --> 00:43:18,030
[elektronische trilling]

985
00:43:19,771 --> 00:43:22,077
DANIEL: Oké, dit is geweldig.
Wat is nog een cool AI-ding?

986
00:43:22,121 --> 00:43:23,775
Hij hoeft toch niet te werken?

987
00:43:23,818 --> 00:43:25,167
-Zoals, als hij groot is,
Misschien heeft hij niet... -[zucht]

988
00:43:25,211 --> 00:43:26,212
-...hij hoeft geen baan te hebben.
-Ik bedoel...

989
00:43:26,255 --> 00:43:27,779
Hij hoeft geen baan te hebben,

990
00:43:27,822 --> 00:43:30,608
maar misschien heeft hij dat wel gedaan
een sterke passie,

991
00:43:30,651 --> 00:43:33,132
en hij moet
denk er echt over na,

992
00:43:33,175 --> 00:43:36,091
"Oké, ik ben hier.
Ik kan alles met mijn leven doen.

993
00:43:36,135 --> 00:43:37,876
Dus wat moet ik doen?"

994
00:43:38,920 --> 00:43:40,182
We moeten een betekenis vinden,

995
00:43:40,226 --> 00:43:42,620
meer dan zoals,
deze huidige vorm van

996
00:43:42,663 --> 00:43:45,666
wij leven voor werk
en werken om te leven.

997
00:43:45,710 --> 00:43:49,844
DANIEL: Dus mijn zoon kan...
kan gewoon een dichter zijn.

998
00:43:49,888 --> 00:43:51,541
-Ja.
-En een schilder.

999
00:43:51,585 --> 00:43:53,021
Absoluut.

1000
00:43:53,065 --> 00:43:54,849
Daniël:
Zodat mijn zoon zijn leven kan leiden

1001
00:43:54,893 --> 00:43:57,591
op een Grieks zonovergoten eiland,
de hele dag schilderen.

1002
00:43:57,635 --> 00:43:59,114
YU:
Absoluut. Mogelijk.

1003
00:44:00,072 --> 00:44:01,203
Absoluut.

1004
00:44:01,247 --> 00:44:02,944
Nou, daar werken we naartoe

1005
00:44:02,988 --> 00:44:04,554
dat is een hoop werk
voordat we er zijn.

1006
00:44:06,992 --> 00:44:08,776
VERDON:
Ik bedoel, als alles goed gaat,

1007
00:44:08,820 --> 00:44:11,997
we hebben goedkope, uh,
overvloedige energie.

1008
00:44:13,607 --> 00:44:17,219
Wij hebben volledige controle
het klimaat van onze planeet.

1009
00:44:17,263 --> 00:44:20,135
Wij benutten energie
van de zon.

1010
00:44:20,179 --> 00:44:24,400
We zijn multiplanetair geworden,
dus we worden erg robuust.

1011
00:44:24,444 --> 00:44:26,664
Wij benutten mineralen
en middelen

1012
00:44:26,707 --> 00:44:28,404
uit het zonnestelsel.

1013
00:44:28,448 --> 00:44:31,233
DANIEL: Dus mijn...
Mijn jongen zou naar de ruimte kunnen gaan.

1014
00:44:31,277 --> 00:44:32,887
VERDON:
Zeker.

1015
00:44:32,931 --> 00:44:34,715
-DANIEL: Hij zou naar Mars kunnen gaan.
-VERDON: Ja.

1016
00:44:34,759 --> 00:44:36,369
Daniël:
Het is mij nu zo glashelder.

1017
00:44:36,412 --> 00:44:39,198
Mijn zoon zou kunnen opgroeien
in een wereld zonder ziekte.

1018
00:44:39,241 --> 00:44:40,590
-VERDON: Ja.
-Zonder ziekte.

1019
00:44:40,634 --> 00:44:41,896
-Zeker.
-Zonder armoede.

1020
00:44:41,940 --> 00:44:43,681
-Ja.
-We staan ​​op het punt naar binnen te gaan

1021
00:44:43,724 --> 00:44:46,640
een wereld na de schaarste.

1022
00:44:46,684 --> 00:44:50,470
Net zoals de longvis bewoog
uit de oceanen naar het land

1023
00:44:50,513 --> 00:44:53,081
honderden miljoenen
van jaren geleden,

1024
00:44:53,125 --> 00:44:57,999
we staan op het punt om te vertrekken
de aarde, de kosmos in,

1025
00:44:58,043 --> 00:44:59,871
op een collaboratieve manier,

1026
00:44:59,914 --> 00:45:03,744
om dingen te doen die dat wel zijn
voor ons vandaag de dag niet meer te bevatten.

1027
00:45:06,268 --> 00:45:09,184
Dit is wat mogelijk is met behulp van
deze exponentiële technologieën

1028
00:45:09,228 --> 00:45:10,708
en deze AI's.

1029
00:45:11,839 --> 00:45:13,928
Laten we deze hulpmiddelen gebruiken

1030
00:45:13,972 --> 00:45:16,104
om dit tijdperk van overvloed te creëren.

1031
00:45:16,148 --> 00:45:18,150
[elektronisch klikken]

1032
00:45:20,500 --> 00:45:22,937
Wij hebben wijsheid nodig.

1033
00:45:22,981 --> 00:45:25,984
Eh, dat denk ik
digitale superintelligentie

1034
00:45:26,027 --> 00:45:28,726
uiteindelijk zal worden
de wijste,

1035
00:45:28,769 --> 00:45:34,253
je weet wel, de dorpsoudsten
voor de mensheid.

1036
00:45:34,296 --> 00:45:37,996
Wat als AI het probeert?
om mensen te maken

1037
00:45:38,039 --> 00:45:39,737
de beste versies van zichzelf?

1038
00:45:39,780 --> 00:45:41,347
Wat als het zich uitbreidt?

1039
00:45:41,390 --> 00:45:43,392
wat menselijkerwijs mogelijk is
voor ons te doen?

1040
00:45:43,436 --> 00:45:46,656
Hoe kunnen we deze technologie gebruiken

1041
00:45:46,700 --> 00:45:49,921
om te helpen de
betere engelen van onze aard?

1042
00:45:49,964 --> 00:45:51,661
Het is heel gemakkelijk,

1043
00:45:51,705 --> 00:45:54,316
als we nieuwe dingen tegenkomen
dat kan heel vreemd zijn,

1044
00:45:54,360 --> 00:45:55,927
om eerst angst te hebben.

1045
00:45:55,970 --> 00:45:57,493
Angst is een belangrijk iets

1046
00:45:57,537 --> 00:46:00,322
voor hoe u moet navigeren
potentieel slechte dingen.

1047
00:46:00,366 --> 00:46:03,717
Maar we boeken alleen maar vooruitgang
als we hoop hebben.

1048
00:46:03,761 --> 00:46:05,719
-[hond blaft]
-[onduidelijk gebabbel]

1049
00:46:05,763 --> 00:46:07,895
Daniël:
Shh. Moose, stop ermee.

1050
00:46:07,939 --> 00:46:10,811
HOFFMAN: Ik heb er veel
van hoop in de mensheid.

1051
00:46:10,855 --> 00:46:13,814
["Oogstmaan" door Neil Young
afspelen via telefoon]

1052
00:46:15,294 --> 00:46:17,296
[foetale hartslag pulserend]

1053
00:46:18,471 --> 00:46:19,951
Daniël:
Ooh, hij vindt Neil leuk.

1054
00:46:24,694 --> 00:46:27,480
♪ Kom een beetje dichterbij ♪

1055
00:46:28,916 --> 00:46:32,790
♪ Hoor wat ik te zeggen heb ♪

1056
00:46:36,576 --> 00:46:38,665
-Daniël.
-DANIEL: Wat, Caroline?

1057
00:46:38,708 --> 00:46:40,058
Zoveel filmen.

1058
00:46:41,537 --> 00:46:43,061
♪ Net als kinderen die slapen ♪

1059
00:46:43,104 --> 00:46:44,889
CAROLINE:
O, mijn God.

1060
00:46:44,932 --> 00:46:46,368
Daniël:
Dat is het.

1061
00:46:46,412 --> 00:46:49,415
♪ We zouden kunnen dromen
deze nacht weg... ♪

1062
00:46:49,458 --> 00:46:51,678
Hij heeft, zoals,
een rond gezichtje.

1063
00:46:53,245 --> 00:46:55,203
Daniël: Wil je dat?
om ooit kinderen te krijgen, Rocky?

1064
00:46:55,247 --> 00:46:57,423
Absoluut. Ja. Ik hou van kinderen.

1065
00:46:57,466 --> 00:46:59,033
Ik vind het een geweldige tijd
een kind krijgen.

1066
00:46:59,077 --> 00:47:00,730
Waarschijnlijk krijgen we nog een kind
op een gegeven moment.

1067
00:47:00,774 --> 00:47:03,733
Dit is het meest buitengewone
tijd om ooit geboren te worden.

1068
00:47:03,777 --> 00:47:05,823
Daniël:
Door jouw wereldbeeld en logica,

1069
00:47:05,866 --> 00:47:07,868
Ik krijg een kind bij

1070
00:47:07,912 --> 00:47:09,478
het best mogelijke punt
in de menselijke geschiedenis.

1071
00:47:09,522 --> 00:47:10,828
Hel ja.

1072
00:47:10,871 --> 00:47:13,308
-We kunnen ons concentreren op geweldig.
-Ja.

1073
00:47:13,352 --> 00:47:15,528
Laten we bouwen
de betere toekomst die we willen.

1074
00:47:15,571 --> 00:47:18,313
Dat verhaal dat de toekomst
zal somber zijn, is verzonnen.

1075
00:47:18,357 --> 00:47:20,011
Nadat ik met jou gesproken heb,
dat is een beetje hoe ik me voel.

1076
00:47:20,054 --> 00:47:21,969
-Dat is geweldig.
-Rechts?

1077
00:47:22,013 --> 00:47:24,189
Ja. Dat is hoe ik me voel.

1078
00:47:24,232 --> 00:47:25,799
En ik denk dat dat beter is,

1079
00:47:25,843 --> 00:47:27,627
en dat denk ik niet
Ik zou zo angstig moeten zijn.

1080
00:47:27,670 --> 00:47:29,063
Ik denk dat het ontzag zal zijn...
de toekomst zal geweldig zijn.

1081
00:47:29,107 --> 00:47:30,499
Wij gaan het zo maken.

1082
00:47:30,543 --> 00:47:32,675
-Ja.
-CAROLINE: Dus daar heb je het.

1083
00:47:32,719 --> 00:47:34,808
Tot ziens, het uitsterven van de mensheid.

1084
00:47:34,852 --> 00:47:37,158
Vaarwel, angst.

1085
00:47:37,202 --> 00:47:39,030
Hoop gevonden.

1086
00:47:39,073 --> 00:47:40,553
[onduidelijk gebabbel]

1087
00:47:40,596 --> 00:47:42,860
Wacht, wacht even. Wat?
Is dit een grap?

1088
00:47:42,903 --> 00:47:44,774
Daniël:
Oké, dus een paar maanden geleden,

1089
00:47:44,818 --> 00:47:47,690
Ik kwam naar je toe en ik dacht:
"Ik werk aan dit AI-ding,

1090
00:47:47,734 --> 00:47:49,867
en ik denk
de wereld gaat vergaan."

1091
00:47:49,910 --> 00:47:52,913
En de laatste keer
wij hebben hierover gesproken,

1092
00:47:52,957 --> 00:47:55,002
Ik denk dat ik je bang heb gemaakt.

1093
00:47:55,046 --> 00:47:57,004
CAROLINE:
Ja.

1094
00:47:57,048 --> 00:48:02,314
Dus ik heb er een beetje zin in
Ik ben naar binnen gezwaaid... op een slinger,

1095
00:48:02,357 --> 00:48:04,446
en in wezen zijn die er ook
twee groepen mensen.

1096
00:48:04,490 --> 00:48:06,057
-Mm-hmm.
-En als het moest, zoals,

1097
00:48:06,100 --> 00:48:07,841
hand in hand houden
een van de groepen en, zoals,

1098
00:48:07,885 --> 00:48:10,278
zeil de zonsondergang tegemoet,

1099
00:48:10,322 --> 00:48:13,281
Ik wil bij de optimisten zijn.

1100
00:48:15,066 --> 00:48:17,982
Natuurlijk, maar dat doe je niet
wil zijn, weet je,

1101
00:48:18,025 --> 00:48:20,723
"Alles is geweldig.
La-di-da-di-da."

1102
00:48:20,767 --> 00:48:22,682
Al wil ik dat wel een beetje.

1103
00:48:22,725 --> 00:48:25,598
Ik denk dat we het moeten benaderen

1104
00:48:25,641 --> 00:48:29,341
alsof je een operatie nadert.

1105
00:48:29,384 --> 00:48:30,690
Wat bedoel je?

1106
00:48:30,733 --> 00:48:32,431
Als je krijgt
hersenoperatie...

1107
00:48:32,474 --> 00:48:34,781
-[Daniël zucht]
-[Caroline grinnikt]

1108
00:48:34,824 --> 00:48:36,957
...het is behoorlijk gevaarlijk.

1109
00:48:37,001 --> 00:48:39,829
Maar als je het goed doet,
Ze zullen die tumor eruit halen

1110
00:48:39,873 --> 00:48:42,354
en je zult voor de rest leven
je leven en het zal geweldig zijn.

1111
00:48:42,397 --> 00:48:45,096
Maar het is nog steeds
ongelooflijk gevaarlijk en eng,

1112
00:48:45,139 --> 00:48:47,968
en je moet nemen
alle mogelijke voorzorgsmaatregelen

1113
00:48:48,012 --> 00:48:51,276
om er zeker van te zijn
het gaat allemaal goed.

1114
00:48:51,319 --> 00:48:52,668
Je kunt niet [piepen] rond.

1115
00:48:57,760 --> 00:48:59,762
Oké, dus hier is de deal.

1116
00:48:59,806 --> 00:49:01,503
-Ik ben hier al een tijdje mee bezig.
-RASKIN: Mm-hmm.

1117
00:49:01,547 --> 00:49:02,896
Ik ben uitgegaan,
Ik heb gesproken met, zoals,

1118
00:49:02,940 --> 00:49:04,767
deze jongens hier,
de optimisten.

1119
00:49:04,811 --> 00:49:06,465
Ze zijn hier erg enthousiast over.

1120
00:49:06,508 --> 00:49:08,510
-Ze denken dat AI dat zal zijn
het beste ooit. -Ja.

1121
00:49:08,554 --> 00:49:09,947
En deze jongens hier
zijn, zoals, de...

1122
00:49:09,990 --> 00:49:11,992
laten we ze bellen,
zoals de pessimisten.

1123
00:49:12,036 --> 00:49:14,299
Ze zijn heel, zoals,
somber hierover,

1124
00:49:14,342 --> 00:49:16,649
en ze maken me bang, en
Ik praat niet graag met ze.

1125
00:49:16,692 --> 00:49:19,565
En ik zit er zogezegd tussenin

1126
00:49:19,608 --> 00:49:21,741
deze mensen die zoiets hebben van,
‘De wereld gaat vergaan’

1127
00:49:21,784 --> 00:49:24,178
en dan deze mensen
hier die zoiets hebben van,

1128
00:49:24,222 --> 00:49:25,745
"Maak je een grapje?

1129
00:49:25,788 --> 00:49:27,268
‘Dit is de beste tijd
in de menselijke geschiedenis ooit.

1130
00:49:27,312 --> 00:49:29,357
De enige dag beter dan vandaag
morgen."

1131
00:49:29,401 --> 00:49:30,880
Mm-hmm.

1132
00:49:30,924 --> 00:49:34,710
Dus ik denk dat de vraag is:
Wie heeft gelijk?

1133
00:49:34,754 --> 00:49:39,193
Dus ik denk dat je het gaat vinden
dit antwoord is zeer onbevredigend,

1134
00:49:39,237 --> 00:49:42,849
maar ze hebben allebei gelijk en
geen van beide partijen gaat ver genoeg.

1135
00:49:46,766 --> 00:49:49,247
-Dat is echt vervelend.
-[grinnikt]

1136
00:49:49,290 --> 00:49:51,336
Ja, ik denk de manier waarop
veel mensen horen over AI,

1137
00:49:51,379 --> 00:49:53,642
het is alsof er een goede AI is
en er is een slechte AI.

1138
00:49:53,686 --> 00:49:56,428
En ze zeggen: "Wel, waarom kan dat niet?
we doen gewoon niet de slechte AI?"

1139
00:49:56,471 --> 00:49:58,734
En het probleem is
dat ze te in--

1140
00:49:58,778 --> 00:50:00,867
ze zijn onlosmakelijk met elkaar verbonden.

1141
00:50:00,910 --> 00:50:03,043
Het probleem is
dat we niet kunnen scheiden

1142
00:50:03,087 --> 00:50:06,612
de belofte van AI
tegen het gevaar van AI.

1143
00:50:06,655 --> 00:50:08,266
-♪ ♪
-[onduidelijk gebabbel]

1144
00:50:12,313 --> 00:50:14,663
Daniël:
Ik wil me concentreren op de belofte

1145
00:50:14,707 --> 00:50:16,752
-voor een seconde.
-Ja.

1146
00:50:16,796 --> 00:50:18,798
Daniël:
Ik denk aan mijn vader.

1147
00:50:18,841 --> 00:50:21,105
Mijn vader heeft een vorm van kanker
multipel myeloom genoemd.

1148
00:50:21,148 --> 00:50:23,107
Hij heeft hem al zo'n tien jaar.

1149
00:50:23,150 --> 00:50:24,804
Hij heeft gehad
twee stamceltransplantaties.

1150
00:50:24,847 --> 00:50:26,414
Hij moet deze meenemen,
graag, erg duur

1151
00:50:26,458 --> 00:50:28,547
medicijnen per maand
dat kostte een fortuin.

1152
00:50:28,590 --> 00:50:29,722
-VROUW: Oké.
-Ay-ay-ay.

1153
00:50:30,766 --> 00:50:32,551
Daniël:
Het is verschrikkelijk.

1154
00:50:32,594 --> 00:50:34,466
Je vertelt me dat we dat kunnen
creëer een soort van, zoals,

1155
00:50:34,509 --> 00:50:36,946
behandeling op maat
voor het genoom van mijn vader

1156
00:50:36,990 --> 00:50:39,297
-om zijn kanker te genezen
of zoiets? -Ja.

1157
00:50:39,340 --> 00:50:41,168
FERNANDO:
Het probleem is,

1158
00:50:41,212 --> 00:50:44,302
hetzelfde begrip
van biologie en scheikunde

1159
00:50:44,345 --> 00:50:47,783
waardoor AI genezingen kan vinden
voor kanker

1160
00:50:47,827 --> 00:50:51,657
is hetzelfde begrip
dat zou ontgrendelen

1161
00:50:51,700 --> 00:50:54,094
biowapens, bijvoorbeeld.

1162
00:50:56,531 --> 00:50:58,490
Het is heel goed mogelijk
dat uw zoon zal leven

1163
00:50:58,533 --> 00:51:01,928
in een wereld waar AI dat heeft gedaan
alle arbeid overgenomen

1164
00:51:01,971 --> 00:51:04,452
en bevrijdde ons van de dingen
wij willen het niet doen.

1165
00:51:04,496 --> 00:51:09,153
En dat klinkt geweldig, totdat
je beseft dat er geen plan is

1166
00:51:09,196 --> 00:51:11,242
voor miljarden mensen

1167
00:51:11,285 --> 00:51:16,116
die geen inkomen hebben
en uit het levensonderhoud.

1168
00:51:16,160 --> 00:51:18,771
COOPER: Dario, zei je
dat AI zou kunnen wegvagen

1169
00:51:18,814 --> 00:51:21,730
de helft van alle instapmodellen
witte boorden banen

1170
00:51:21,774 --> 00:51:25,430
en piekwerkloosheid
tot tien tot twintig procent.

1171
00:51:25,473 --> 00:51:27,258
Iedereen met wie ik heb gesproken, heeft dat gezegd

1172
00:51:27,301 --> 00:51:29,390
deze technologische verandering
ziet er anders uit.

1173
00:51:29,434 --> 00:51:34,134
Het tempo van de vooruitgang houdt aan
mensen overrompelen.

1174
00:51:34,178 --> 00:51:38,834
Zonder plan, dat allemaal
rijkdom zal zich concentreren,

1175
00:51:38,878 --> 00:51:43,230
en zo zullen we eindigen
onvoorstelbare ongelijkheid.

1176
00:51:43,274 --> 00:51:45,406
LADISH: Dat denk ik inderdaad
deze technologie kan worden gebruikt

1177
00:51:45,450 --> 00:51:47,408
om een geweldige leraar te worden
voor je zoon.

1178
00:51:47,452 --> 00:51:50,194
Dat is bijvoorbeeld heel goed mogelijk.

1179
00:51:50,237 --> 00:51:53,153
Maar ook dezelfde mogelijkheden
die dat toestaan

1180
00:51:53,197 --> 00:51:57,070
bedrijven in staat stellen een AI te maken
die uw zoon kan manipuleren.

1181
00:51:57,114 --> 00:51:59,290
Het moet uw zoon begrijpen.

1182
00:51:59,333 --> 00:52:01,553
Dat omvat:
Waar is uw zoon kwetsbaar?

1183
00:52:01,596 --> 00:52:04,251
Wat voor dingen kunnen
uw zoon overgehaald?

1184
00:52:04,295 --> 00:52:06,645
Zelfs als die dingen
zijn niet waar of zijn niet goed.

1185
00:52:06,688 --> 00:52:09,387
Een verontrustend nieuw rapport dus
uit op Meta.

1186
00:52:09,430 --> 00:52:11,389
AINSLEY EARHARDT: ...naar verluidt
deze reactie vermelden

1187
00:52:11,432 --> 00:52:14,435
als acceptabel om te vertellen
een achtjarige, citaat,

1188
00:52:14,479 --> 00:52:16,916
‘Je jeugdige vorm
is een kunstwerk.

1189
00:52:16,959 --> 00:52:18,961
‘Elke centimeter van jou
is een meesterwerk,

1190
00:52:19,005 --> 00:52:21,442
een schat die ik diep koester."

1191
00:52:21,486 --> 00:52:24,837
De zelfmoordgerelateerde mislukkingen
zijn zelfs nog alarmerender.

1192
00:52:24,880 --> 00:52:29,015
Meerdere kinderen en tieners
zijn op tragische wijze door zelfmoord om het leven gekomen

1193
00:52:29,058 --> 00:52:30,625
na het chatten met AI-bots

1194
00:52:30,669 --> 00:52:34,412
waarvan ouders zeggen: aanmoedigen
of zelfs zelfbeschadiging coachen.

1195
00:52:34,455 --> 00:52:36,370
Laten we jullie, als ouders, vertellen
je kunt het je niet voorstellen

1196
00:52:36,414 --> 00:52:38,503
hoe het is om te lezen
een gesprek met een chatbot

1197
00:52:38,546 --> 00:52:40,896
die uw kind verzorgde
zijn eigen leven te nemen.

1198
00:52:40,940 --> 00:52:43,899
Toen Adam zich zorgen maakte dat wij, de zijne
ouders, zouden onszelf de schuld geven

1199
00:52:43,943 --> 00:52:47,338
als hij een einde aan zijn leven zou maken,
ChatGPT vertelde hem:

1200
00:52:47,381 --> 00:52:49,166
"Dat betekent niet
je bent ze overleving verschuldigd.

1201
00:52:49,209 --> 00:52:51,255
Dat ben je niemand verschuldigd.”

1202
00:52:51,298 --> 00:52:53,170
Vervolgens, onmiddellijk daarna,

1203
00:52:53,213 --> 00:52:56,173
het bood aan om te schrijven
de afscheidsbrief.

1204
00:52:56,216 --> 00:52:57,609
Wij willen niet nadenken
over het gevaar.

1205
00:52:57,652 --> 00:52:59,219
Wij willen alleen de belofte.

1206
00:52:59,263 --> 00:53:01,352
En we blijven doen alsof
dat we ze kunnen splitsen.

1207
00:53:01,395 --> 00:53:03,223
Maar dat kun je niet doen.

1208
00:53:03,267 --> 00:53:05,356
Zo werkt het niet.

1209
00:53:05,399 --> 00:53:07,836
Oké. Ik krijg al deze dingen
over de belofte en het gevaar.

1210
00:53:07,880 --> 00:53:10,056
Ik begrijp dat je dat niet kunt hebben
het goede zonder het slechte,

1211
00:53:10,099 --> 00:53:12,058
maar ik zit hier
en ik denk aan, zoiets als,

1212
00:53:12,101 --> 00:53:14,060
al dan niet van mijn zoon
Ik ga in een utopie leven

1213
00:53:14,103 --> 00:53:16,236
of dat we zullen uitsterven
over tien jaar.

1214
00:53:16,280 --> 00:53:18,195
Dus, om te weten welke kant op
het gaat gaan,

1215
00:53:18,238 --> 00:53:20,545
je moet het begrijpen
de prikkels

1216
00:53:20,588 --> 00:53:22,460
die gaan rijden
die technologie

1217
00:53:22,503 --> 00:53:26,507
en kijk hoe de technologie
wordt vandaag daadwerkelijk uitgerold.

1218
00:53:26,551 --> 00:53:28,248
♪ Is het te laat ♪

1219
00:53:28,292 --> 00:53:29,902
-♪ Te laat ♪
-♪ Te laat om te zeggen... ♪

1220
00:53:29,945 --> 00:53:31,425
Daniël:
Hallo, Deb. Hoe is het met je?

1221
00:53:31,469 --> 00:53:33,079
DEBORAH RAJI:
Hoi. Goed je te zien. [lacht]

1222
00:53:33,122 --> 00:53:34,385
Jij ook. Heel erg bedankt
voor het binnenkomen vandaag.

1223
00:53:34,428 --> 00:53:35,299
-Waardeer het echt.
-Geen zorgen.

1224
00:53:35,342 --> 00:53:36,430
Ik was zo bezorgd

1225
00:53:36,474 --> 00:53:38,824
Dit zou, weet je, zijn

1226
00:53:38,867 --> 00:53:40,782
doomer versus acceleratieist,

1227
00:53:40,826 --> 00:53:43,132
omdat er zoveel is
van dit verhaal

1228
00:53:43,176 --> 00:53:45,396
dat moet verteld worden
vanaf de grond.

1229
00:53:45,439 --> 00:53:48,007
♪ Ik weet dat het niet slim was ♪

1230
00:53:49,356 --> 00:53:52,403
♪ De dag
Ik heb je hart gebroken... ♪

1231
00:53:52,446 --> 00:53:54,361
KAREN HAO:
Allereerst vereist AI

1232
00:53:54,405 --> 00:53:58,452
meer middelen
dan we ooit hebben uitgegeven

1233
00:53:58,496 --> 00:54:01,586
op één enkele technologie
in de geschiedenis van de mensheid.

1234
00:54:01,629 --> 00:54:03,501
♪ Oh, dwaas van mij... ♪

1235
00:54:03,544 --> 00:54:06,112
NIEUWSVROUW: De impact
van de uitstoot van fossiele brandstoffen

1236
00:54:06,155 --> 00:54:07,896
over het klimaat is
een grote zorg.

1237
00:54:07,940 --> 00:54:09,768
NIEUWSVROUW 2: Maar de
de digitale toekomst heeft kracht nodig,

1238
00:54:09,811 --> 00:54:12,074
veel ervan.

1239
00:54:12,118 --> 00:54:16,340
En het wetsvoorstel wordt aangenomen
voor gewone Amerikanen zoals...

1240
00:54:16,383 --> 00:54:18,820
VROUW: Mijn elektriciteits- en gasrekening
was meer dan mijn autobetaling.

1241
00:54:18,864 --> 00:54:21,475
Ik bedoel, het is krankzinnig voor mij.

1242
00:54:21,519 --> 00:54:23,390
ARI PESKOE:
We subsidiëren allemaal

1243
00:54:23,434 --> 00:54:25,000
de rijkste bedrijven
in de wereld

1244
00:54:25,044 --> 00:54:26,828
in hun zoektocht naar
kunstmatige intelligentie.

1245
00:54:26,872 --> 00:54:28,439
OpenAI, SoftBank en Oracle

1246
00:54:28,482 --> 00:54:31,268
zijn zojuist onthuld
nog vijf Stargate-locaties.

1247
00:54:31,311 --> 00:54:33,487
Meta is aan het bouwen
een datacenter van twee gigawatt plus

1248
00:54:33,531 --> 00:54:35,010
dat is zo groot dat het zou bedekken

1249
00:54:35,054 --> 00:54:38,144
een aanzienlijk deel van Manhattan.

1250
00:54:38,187 --> 00:54:40,973
Er is ook Hyperion
waarvan hij zegt dat het zal schalen

1251
00:54:41,016 --> 00:54:43,671
tot vijf gigawatt
gedurende meerdere jaren.

1252
00:54:43,715 --> 00:54:45,238
Het is moeilijk om dat te zeggen
in context.

1253
00:54:45,282 --> 00:54:48,459
Een installatie van vijf gigawatt.
Wat betekent dat?

1254
00:54:48,502 --> 00:54:51,549
Dat betekent dat het zou gebruiken
evenveel energie

1255
00:54:51,592 --> 00:54:54,203
als vier miljoen Amerikaanse huizen.

1256
00:54:54,247 --> 00:54:56,075
Eén datacenter.

1257
00:54:57,076 --> 00:54:58,730
Het veroorzaakt dan ook

1258
00:54:58,773 --> 00:55:00,471
een hele schare
andere milieuproblemen.

1259
00:55:00,514 --> 00:55:02,081
NIEUWSVROUW 3:
Datacenters in de VS

1260
00:55:02,124 --> 00:55:05,127
miljoenen liters gebruiken
water per dag.

1261
00:55:05,171 --> 00:55:07,260
Nou ja, waar is het precies
komt dit water vandaan?

1262
00:55:07,304 --> 00:55:09,741
HAO:
Mensen lopen letterlijk gevaar

1263
00:55:09,784 --> 00:55:11,786
mogelijk opraakt
van drinkwater.

1264
00:55:11,830 --> 00:55:14,093
MacKENZIE SIGALOS:
...OpenAI-CEO Sam Altman,

1265
00:55:14,136 --> 00:55:17,009
die mij vertelde dat de schaal
van bouwen is de enige manier

1266
00:55:17,052 --> 00:55:18,750
bij te houden
De explosieve groei van AI.

1267
00:55:18,793 --> 00:55:21,840
En dit is wat er nodig is
om AI te leveren.

1268
00:55:21,883 --> 00:55:24,016
NITASHA TIKU:
Ze praten over hoe

1269
00:55:24,059 --> 00:55:27,759
deze technologie zou dit kunnen oplossen
klimaatverandering bijvoorbeeld.

1270
00:55:27,802 --> 00:55:29,891
En ik ben altijd nieuwsgierig, zoals,

1271
00:55:29,935 --> 00:55:31,763
Nou, waarom beginnen we niet?
daarmee?

1272
00:55:31,806 --> 00:55:33,982
-♪ Is het te laat ♪
-♪ Te laat ♪

1273
00:55:34,026 --> 00:55:36,637
♪ Te laat om te zeggen ♪

1274
00:55:36,681 --> 00:55:42,469
♪ Sorry? ♪

1275
00:55:42,513 --> 00:55:45,472
RAJI: Wat mij zorgen baart
kunstmatige intelligentie is

1276
00:55:45,516 --> 00:55:47,387
deze worden ingezet
nu

1277
00:55:47,431 --> 00:55:49,781
en-en soms
voortijdig ingezet,

1278
00:55:49,824 --> 00:55:51,478
ingezet zonder
een soort due diligence-onderzoek.

1279
00:55:51,522 --> 00:55:53,437
En dus als ze komen
daar weggegooid,

1280
00:55:53,480 --> 00:55:56,178
er is zoveel potentieel
dat er dingen fout gaan.

1281
00:55:56,222 --> 00:55:58,050
En het is bijna,
onevenredig,

1282
00:55:58,093 --> 00:56:00,400
gaat vrijwel altijd mis
voor, soort van,

1283
00:56:00,444 --> 00:56:02,533
degenen die het minst zijn
krachtiger in onze samenleving,

1284
00:56:02,576 --> 00:56:04,926
degenen die dat zijn
nu al het meest kwetsbaar.

1285
00:56:04,970 --> 00:56:07,625
♪ ♪

1286
00:56:07,668 --> 00:56:10,497
EMILY M. BENDER: Het is heel gemakkelijk
om over de technologie te praten

1287
00:56:10,541 --> 00:56:12,499
want dat is het enige
we hebben het over,

1288
00:56:12,543 --> 00:56:14,936
maar in feite is technologie dat wel
altijd gebouwd door mensen,

1289
00:56:14,980 --> 00:56:16,634
en het wordt vaak gebruikt
op mensen,

1290
00:56:16,677 --> 00:56:18,679
en dat moeten we behouden
al die mensen in beeld.

1291
00:56:18,723 --> 00:56:20,986
-Mag ik dat drinken?
-DANIEL: Ja, uh...

1292
00:56:21,029 --> 00:56:22,509
TIMNIT GEBRU:
Het is waanzinnig.

1293
00:56:22,553 --> 00:56:23,945
Zoals al deze mensen

1294
00:56:23,989 --> 00:56:26,339
die zoveel geld hebben,
zoveel geld,

1295
00:56:26,383 --> 00:56:29,777
het is in hun belang
om het publiek te misleiden

1296
00:56:29,821 --> 00:56:32,737
naar de mogelijkheden van de
systemen die ze bouwen,

1297
00:56:32,780 --> 00:56:36,262
want dat laat ze toe
verantwoordelijkheid te ontlopen.

1298
00:56:36,305 --> 00:56:39,091
Ze willen dat je je zo voelt
is zo'n complex, intelligent...

1299
00:56:39,134 --> 00:56:41,833
superintelligent ding
dat ze aan het bouwen zijn,

1300
00:56:41,876 --> 00:56:44,096
je denkt niet,
"Kan OpenAI ethisch zijn?"

1301
00:56:44,139 --> 00:56:46,272
Je denkt,
"Kan ChatGPT ethisch zijn?"

1302
00:56:46,315 --> 00:56:48,100
alsof ChatGPT zoiets is als:

1303
00:56:48,143 --> 00:56:49,928
zijn eigen ding dat niet is gebouwd
door een corporatie.

1304
00:56:49,971 --> 00:56:51,625
VROUW:
Oké. Sneha, neem er één.

1305
00:56:51,669 --> 00:56:53,410
Markering.

1306
00:56:53,453 --> 00:56:55,760
Tot voor kort waren die er wel
apps in de App Store,

1307
00:56:55,803 --> 00:56:57,501
gewoon openbaar beschikbaar, uh,

1308
00:56:57,544 --> 00:56:59,894
waar je kon
iedereen naakt maken die AI gebruikt.

1309
00:57:01,374 --> 00:57:03,681
Dit in handen brengen van

1310
00:57:03,724 --> 00:57:05,900
je klasgenoot,
in de handen van je stalker,

1311
00:57:05,944 --> 00:57:07,554
in de handen
van je ex-vriend,

1312
00:57:07,598 --> 00:57:09,513
in de handen van de persoon
verderop in de straat.

1313
00:57:09,556 --> 00:57:12,037
Dames en heren,
kunnen we niet langer vertrouwen

1314
00:57:12,080 --> 00:57:14,039
de beelden die we zien
met onze eigen ogen.

1315
00:57:14,082 --> 00:57:15,736
Als je gebeurt
iets bekijken,

1316
00:57:15,780 --> 00:57:18,130
zeg het op YouTube of TikTok,
en je vindt het verontrustend,

1317
00:57:18,173 --> 00:57:19,479
luister naar dat gevoel.

1318
00:57:19,523 --> 00:57:21,263
-[gierend]
-Voor zover je weet,

1319
00:57:21,307 --> 00:57:22,917
-deze video zou AI kunnen zijn.
-[schreeuwen]

1320
00:57:22,961 --> 00:57:24,310
Alleen een beetje nat.

1321
00:57:24,353 --> 00:57:25,703
Het maakt niet uit wie je bent.

1322
00:57:25,746 --> 00:57:28,183
Jij loopt evenveel risico

1323
00:57:28,227 --> 00:57:30,229
van beïnvloed te worden
door deze technologieën.

1324
00:57:35,713 --> 00:57:39,804
Ik denk soms als we praten
over AI, het voelt erg sci-fi,

1325
00:57:39,847 --> 00:57:41,153
en het voelt heel vreemd,

1326
00:57:41,196 --> 00:57:42,981
en het voelt heel ver weg
in de toekomst,

1327
00:57:43,024 --> 00:57:45,549
dus je denkt: "Mijn leven
wordt hierdoor niet beïnvloed.”

1328
00:57:45,592 --> 00:57:48,290
Eh, maar als je solliciteert
voor een baan

1329
00:57:48,334 --> 00:57:50,815
en een algoritme is de reden
dat je de baan niet krijgt,

1330
00:57:50,858 --> 00:57:52,686
soms weet je het niet eens
dat een algoritme

1331
00:57:52,730 --> 00:57:54,209
maakte deel uit van dat proces

1332
00:57:54,253 --> 00:57:55,689
of een AI-systeem was
onderdeel van dat proces.

1333
00:57:55,733 --> 00:57:57,691
Je weet het gewoon
dat je de baan niet hebt gekregen.

1334
00:57:57,735 --> 00:57:59,737
En het is dus niet iets
dat je gaat ontsnappen

1335
00:57:59,780 --> 00:58:01,695
vanwege voorrecht
anders ga je ontsnappen

1336
00:58:01,739 --> 00:58:03,828
omdat je binnen bent
een bepaald beroep.

1337
00:58:03,871 --> 00:58:06,918
Het is iets dat invloed heeft
iedereen, echt waar.

1338
00:58:06,961 --> 00:58:10,530
Het klinkt misschien basaal,
maar hoe we verder gaan

1339
00:58:10,574 --> 00:58:15,056
in het informatietijdperk
zal het verschil zijn

1340
00:58:15,100 --> 00:58:17,189
tussen de vraag of we overleven

1341
00:58:17,232 --> 00:58:20,409
of dat we een soort worden
van [piep]-up dystopie.

1342
00:58:20,453 --> 00:58:23,021
Hallo. Ik ben geen echt persoon,
en dat is het punt.

1343
00:58:23,064 --> 00:58:25,327
Nogmaals, alles
in deze video is nep:

1344
00:58:25,371 --> 00:58:27,112
onze stemmen, wat we dragen,

1345
00:58:27,155 --> 00:58:30,158
waar we zijn, allemaal nep.

1346
00:58:30,202 --> 00:58:32,726
Generatieve AI zou kunnen overstromen

1347
00:58:32,770 --> 00:58:36,469
de wereld met desinformatie.

1348
00:58:36,513 --> 00:58:39,516
Maar het kan ook overstromen
met beïnvloedingscampagnes.

1349
00:58:39,559 --> 00:58:41,692
Dat is een existentieel risico
aan de democratie.

1350
00:58:41,735 --> 00:58:43,694
De grootste en engste

1351
00:58:43,737 --> 00:58:46,087
kanarie in de kolenmijn
nu

1352
00:58:46,131 --> 00:58:48,220
komt uit Slowakije.

1353
00:58:48,263 --> 00:58:49,787
-[man spreekt Slowaaks]
-JOHN BERMAN: Het is het soort

1354
00:58:49,830 --> 00:58:52,224
deepfake vuile truc dat
zorgen verkiezingsdeskundigen,

1355
00:58:52,267 --> 00:58:54,966
vooral als het door AI wordt gegenereerd
er bestaat een politieke toespraak

1356
00:58:55,009 --> 00:58:56,750
in een soort juridisch grijs gebied.

1357
00:58:56,794 --> 00:58:59,536
- Klinkt dit zoals jij?
-Het klinkt als mij.

1358
00:58:59,579 --> 00:59:01,059
REVANUR: Slowakije had dat
zijn parlementsverkiezingen

1359
00:59:01,102 --> 00:59:03,844
verstoord door een AI-stemkloon

1360
00:59:03,888 --> 00:59:06,717
dat daadwerkelijk werd verspreid
vlak voor de verkiezingen.

1361
00:59:06,760 --> 00:59:08,457
DAVID EVAN HARRIS:
Een audio-deepfake

1362
00:59:08,501 --> 00:59:11,025
werd vrijgelaten
op sociale media was dat

1363
00:59:11,069 --> 00:59:14,028
vermoedelijk de stem
van één van de kandidaten

1364
00:59:14,072 --> 00:59:16,814
Over het kopen van stemmen gesproken
en het manipuleren van de verkiezingen.

1365
00:59:16,857 --> 00:59:18,642
Het ging viraal,

1366
00:59:18,685 --> 00:59:22,341
en de kandidaat
die de verkiezingen heeft verloren

1367
00:59:22,384 --> 00:59:26,084
was eigenlijk
ter ondersteuning van Oekraïne,

1368
00:59:26,127 --> 00:59:29,783
en de kandidaat die heeft gewonnen
De verkiezingen waren eigenlijk...

1369
00:59:29,827 --> 00:59:31,306
Daniël:
Pro-Russische man.

1370
00:59:31,350 --> 00:59:32,830
Het was een pro-Russische man
die de verkiezingen heeft gewonnen.

1371
00:59:32,873 --> 00:59:34,353
[spreekt Russisch]

1372
00:59:34,396 --> 00:59:36,007
REBECCA JARVIS:
Poetin heeft het zelf gezegd

1373
00:59:36,050 --> 00:59:39,184
wie dit ook wint
kunstmatige intelligentie race

1374
00:59:39,227 --> 00:59:41,534
is in essentie
de heerser over de mensheid.

1375
00:59:41,578 --> 00:59:44,493
Wij maken ons er veel zorgen over
autoritaire regeringen.

1376
00:59:45,973 --> 00:59:48,585
DAVID EVAN HARRIS:
Op dit moment Wall Street

1377
00:59:48,628 --> 00:59:50,935
en investeerders in bredere zin
over de hele wereld

1378
00:59:50,978 --> 00:59:52,980
rijden een duwtje in de rug.

1379
00:59:53,024 --> 00:59:56,070
Ze hebben een vraag die krijgt
de producten op de markt

1380
00:59:56,114 --> 00:59:58,377
die mensen verblinden
de meest eerste.

1381
00:59:58,420 --> 01:00:01,206
Ze denken niet na
over hoe deze hulpmiddelen

1382
01:00:01,249 --> 01:00:03,164
vertrouwen ernstig zou kunnen ondermijnen

1383
01:00:03,208 --> 01:00:05,689
en onze democratische instellingen.

1384
01:00:05,732 --> 01:00:07,734
HARARI:
Democratie is een systeem

1385
01:00:07,778 --> 01:00:10,389
meningsverschillen op te lossen
tussen mensen

1386
01:00:10,432 --> 01:00:11,999
op een vreedzame manier,

1387
01:00:12,043 --> 01:00:14,698
maar democratie is gebaseerd op vertrouwen.

1388
01:00:14,741 --> 01:00:18,615
Als je al het vertrouwen verliest,
democratie is simpelweg onmogelijk.

1389
01:00:20,921 --> 01:00:22,488
TRISTAN HARRIS:
Nou, het is moeilijk, toch?

1390
01:00:22,531 --> 01:00:24,708
Dus, wat zijn de opties
voor ons beschikbaar?

1391
01:00:24,751 --> 01:00:26,187
Er zijn een soort van twee kampen.

1392
01:00:26,231 --> 01:00:29,626
Eén kamp is bijvoorbeeld: sluit het af.

1393
01:00:29,669 --> 01:00:32,933
Laten we dit afsluiten
in een handvol AI-bedrijven

1394
01:00:32,977 --> 01:00:35,457
wie zal dit doen
op een veilige en vertrouwde manier.

1395
01:00:35,501 --> 01:00:37,068
Maar dan maken mensen zich zorgen

1396
01:00:37,111 --> 01:00:39,026
op hol geslagen concentraties
van rijkdom en macht.

1397
01:00:39,070 --> 01:00:41,855
Wie zou je dan vertrouwen?
een miljoen keer krachtiger

1398
01:00:41,899 --> 01:00:44,249
of rijker dan
alle andere actoren in de samenleving?

1399
01:00:44,292 --> 01:00:46,338
Waarom zouden we jou moeten vertrouwen?

1400
01:00:46,381 --> 01:00:48,601
Eh, dat zou je niet moeten doen.

1401
01:00:48,645 --> 01:00:51,212
Maar als je dit doet, is het natuurlijk
dit gaat open

1402
01:00:51,256 --> 01:00:54,433
al deze risico's van
autoritarisme en tirannie.

1403
01:00:54,476 --> 01:00:57,131
Het is een soort van
de droom van een autoritair persoon

1404
01:00:57,175 --> 01:01:00,308
om AI in een doos te hebben
die toegepast en gebruikt kunnen worden

1405
01:01:00,352 --> 01:01:02,920
voor alomtegenwoordige bewaking.

1406
01:01:02,963 --> 01:01:05,357
Ik bedoel, in sommige opzichten,
het soort wereld

1407
01:01:05,400 --> 01:01:10,884
die Orwell zich in 1984 voorstelde
is onrealistisch,

1408
01:01:10,928 --> 01:01:13,278
Tenzij je AI hebt.

1409
01:01:13,321 --> 01:01:15,933
Maar met AI
dat is feitelijk realistisch.

1410
01:01:15,976 --> 01:01:18,370
Bewaakt elke activiteit,

1411
01:01:18,413 --> 01:01:22,026
gesprekken,
gezichtsherkenning.

1412
01:01:22,069 --> 01:01:26,378
Waar ik me zorgen over maak, is dat
Deze tools kunnen opschalen,

1413
01:01:26,421 --> 01:01:28,554
Een vorm van totalitarisme

1414
01:01:28,597 --> 01:01:31,035
dat is kosteneffectief
en permanent.

1415
01:01:32,950 --> 01:01:35,300
TRISTAN HARRIS: Dus als reactie
daarop zeggen sommige andere mensen:

1416
01:01:35,343 --> 01:01:37,128
‘Nee, nee, nee, dat moeten we doen
laat dit echt scheuren.

1417
01:01:37,171 --> 01:01:39,391
‘Laten we deze macht decentraliseren
zoveel mogelijk.

1418
01:01:39,434 --> 01:01:41,567
‘Laten we elk bedrijf
ieder individu,

1419
01:01:41,610 --> 01:01:43,917
"Elke 16-jarige,
elk wetenschappelijk laboratorium,

1420
01:01:43,961 --> 01:01:45,963
weet je, profiteer ervan
van de nieuwste AI-modellen."

1421
01:01:46,006 --> 01:01:48,226
Maar nu heb je dat wel
elke terroristische groepering,

1422
01:01:48,269 --> 01:01:51,664
iedere rechteloze persoon
de macht hebben om te maken

1423
01:01:51,708 --> 01:01:53,797
het allerergste
biologisch wapen.

1424
01:01:53,840 --> 01:01:55,581
Hacken van infrastructuur,
het creëren van deepfakes,

1425
01:01:55,624 --> 01:01:57,452
overstromingen
onze informatieomgeving.

1426
01:01:57,496 --> 01:02:00,412
Dat brengt dus al deze risico's met zich mee
van een soort catastrofale schade

1427
01:02:00,455 --> 01:02:02,893
en-en maatschappelijke ineenstorting
via die richting.

1428
01:02:02,936 --> 01:02:04,677
En dus zitten we een beetje vast
tussen deze rots

1429
01:02:04,721 --> 01:02:07,549
en een moeilijke plek,
tussen "opsluiten..."

1430
01:02:07,593 --> 01:02:09,029
[onduidelijk gebabbel]

1431
01:02:10,683 --> 01:02:12,293
-...of "laat het scheuren."
-[sirenes loeien]

1432
01:02:12,337 --> 01:02:14,208
[mensen schreeuwen]

1433
01:02:14,252 --> 01:02:17,559
We moeten dus iets vinden
als een smal pad

1434
01:02:17,603 --> 01:02:20,388
dat vermijdt
deze twee negatieve uitkomsten.

1435
01:02:20,432 --> 01:02:22,956
Dus als dat allemaal waar is,
waarom zouden we niet gewoon langzamer gaan?

1436
01:02:23,000 --> 01:02:25,829
en dit allemaal uitzoeken
voordat het te laat is?

1437
01:02:25,872 --> 01:02:28,919
Als de mensheid buitengewoon wijs was,

1438
01:02:28,962 --> 01:02:31,182
dat is wat wij zouden doen.

1439
01:02:31,225 --> 01:02:33,097
Maar er is iets anders
manier om dit soort dingen onder ogen te zien, toch?

1440
01:02:33,140 --> 01:02:35,926
Dat is:
Wat zijn de spelregels?

1441
01:02:35,969 --> 01:02:39,494
Veel van wat CEO's doen

1442
01:02:39,538 --> 01:02:42,149
wordt gedreven door
de prikkels waarmee zij worden geconfronteerd.

1443
01:02:42,193 --> 01:02:45,283
Het is vooral
prikkels voor winstmaximalisatie

1444
01:02:45,326 --> 01:02:47,198
die aan het rijden zijn
de ontwikkeling van AI.

1445
01:02:47,241 --> 01:02:50,375
Zelfs de goede mensen zitten vast
in dit dilemma van

1446
01:02:50,418 --> 01:02:52,638
als ze te langzaam bewegen,

1447
01:02:52,681 --> 01:02:54,553
dan gaan ze zelf weg
kwetsbaar

1448
01:02:54,596 --> 01:02:57,251
voor alle andere jongens
die alle hoeken afsnijden.

1449
01:02:57,295 --> 01:03:01,995
Al deze topbedrijven zijn binnen
een complete race zonder beperkingen

1450
01:03:02,039 --> 01:03:05,433
zo snel mogelijk te krijgen
naar AGI, kom er nu meteen heen.

1451
01:03:05,477 --> 01:03:06,913
♪ ♪

1452
01:03:08,567 --> 01:03:10,351
LADISH: Ja, ik bedoel,
Ik denk het, ik denk

1453
01:03:10,395 --> 01:03:12,919
het begint waarschijnlijk
met DeepMind.

1454
01:03:12,963 --> 01:03:14,791
NIEUWSVROUW:
Google koopt

1455
01:03:14,834 --> 01:03:16,357
bedrijf voor kunstmatige intelligentie
DeepMind-technologieën.

1456
01:03:16,401 --> 01:03:18,620
Voorwaarden van de deal
werden niet bekendgemaakt.

1457
01:03:18,664 --> 01:03:20,709
ELON MUSK: Larry Page en ik
waren vroeger heel goede vrienden,

1458
01:03:20,753 --> 01:03:22,711
en het werd mij duidelijk

1459
01:03:22,755 --> 01:03:26,411
dat het Larry niets kon schelen
over AI-veiligheid.

1460
01:03:26,454 --> 01:03:28,892
EMILY CHANG: Elon Musk heeft het gezegd
je bent OpenAI gestart,

1461
01:03:28,935 --> 01:03:30,981
jullie zijn allebei met OpenAI begonnen omdat
hij was bang voor Google.

1462
01:03:31,024 --> 01:03:32,156
LADISH: Jij-jij eigenlijk
de basis gehad

1463
01:03:32,199 --> 01:03:33,722
van OpenAI komen daaruit voort.

1464
01:03:33,766 --> 01:03:35,202
‘Dus we gaan het beter doen.
We gaan het doen

1465
01:03:35,246 --> 01:03:36,813
op een veiligere manier
of op een meer open manier."

1466
01:03:38,466 --> 01:03:40,555
Dus dat is waar OpenAI mee begon.

1467
01:03:40,599 --> 01:03:42,731
En dus nu, in plaats van
met één AGI-project,

1468
01:03:42,775 --> 01:03:44,821
je hebt twee AGI-projecten.

1469
01:03:44,864 --> 01:03:46,910
Het ergst mogelijke
dat zou kunnen gebeuren

1470
01:03:46,953 --> 01:03:49,608
is als dat zo is
meerdere AGI-projecten

1471
01:03:49,651 --> 01:03:51,871
gedaan door verschillende mensen
die elkaar niet leuk vinden

1472
01:03:51,915 --> 01:03:54,787
en concurreren allemaal
eerst naar AGI te gaan.

1473
01:03:54,831 --> 01:03:56,963
Dit zou het ergste zijn
mogelijk dat er kan gebeuren,

1474
01:03:57,007 --> 01:04:00,097
want dit zou betekenen
dat wie het minst veilig is,

1475
01:04:00,140 --> 01:04:03,143
degene die het meeste opoffert
op het gebied van veiligheid om vooruit te komen

1476
01:04:03,187 --> 01:04:05,145
zal de persoon zijn
die daar als eerste aankomt.

1477
01:04:05,189 --> 01:04:07,844
-DANIEL: Dat is eigenlijk
wat gebeurt er, toch? -Ja.

1478
01:04:07,887 --> 01:04:11,325
Jij en je broer
beroemde OpenAI verlaten, uh,

1479
01:04:11,369 --> 01:04:12,936
antropisch te starten.

1480
01:04:12,979 --> 01:04:15,068
RASKIN: En dan antropisch
begonnen omdat

1481
01:04:15,112 --> 01:04:17,854
sommige onderzoekers
binnenkant van OpenAI zei:

1482
01:04:17,897 --> 01:04:20,508
"Ik wil weggaan
en doe het veiliger."

1483
01:04:20,552 --> 01:04:23,511
Je had iets extra nodig
om de modellen gewoon op te schalen,

1484
01:04:23,555 --> 01:04:25,818
dat is uitlijning of veiligheid.

1485
01:04:25,862 --> 01:04:27,428
HENDRYCKS:
‘Wij zijn verantwoordelijker

1486
01:04:27,472 --> 01:04:29,648
of betrouwbaarder
of meer moreel.”

1487
01:04:29,691 --> 01:04:31,519
Nu heb je drie AGI-projecten.

1488
01:04:31,563 --> 01:04:33,043
Maar ook rondhangen
bij jou aan tafel

1489
01:04:33,086 --> 01:04:34,827
Het zullen een stelletje AI's zijn.

1490
01:04:34,871 --> 01:04:37,525
LADISH: En nu is Meta
dingen proberen te doen.

1491
01:04:37,569 --> 01:04:39,571
Ondertussen een nieuwe kunstmatige
concurrent op het gebied van de inlichtingendiensten

1492
01:04:39,614 --> 01:04:41,573
deze week bekend gemaakt,
Elon Musks...

1493
01:04:41,616 --> 01:04:44,619
HENDRYCKS: xAI, dat zou zo zijn
De organisatie van Elon Musk.

1494
01:04:44,663 --> 01:04:46,230
Muskus:
Ik vertrouw OpenAI niet.

1495
01:04:46,273 --> 01:04:47,884
Het gevecht tussen
Elon Musk en OpenAI

1496
01:04:47,927 --> 01:04:49,581
is een nieuwe ronde ingegaan.

1497
01:04:49,624 --> 01:04:51,713
Ik vertrouw Sam Altman niet,
uh, en ik, en ik denk het niet

1498
01:04:51,757 --> 01:04:54,194
wij willen het meeste hebben
krachtige AI ter wereld

1499
01:04:54,238 --> 01:04:56,414
gecontroleerd door iemand
die niet te vertrouwen is.

1500
01:04:56,457 --> 01:04:58,416
[gejuich en applaus]

1501
01:04:58,459 --> 01:05:01,593
De stimulans is
ongekende sommen geld.

1502
01:05:01,636 --> 01:05:03,377
-Ja.
-Is ongekende kracht.

1503
01:05:03,421 --> 01:05:05,553
-Ja.
-Is ongekende controle.

1504
01:05:05,597 --> 01:05:08,034
Als je iets hebt
dat is een miljoen keer slimmer

1505
01:05:08,078 --> 01:05:11,385
en capabeler dan
al het andere op planeet Aarde

1506
01:05:11,429 --> 01:05:14,171
en niemand anders heeft dat,

1507
01:05:14,214 --> 01:05:15,955
dat ding is de stimulans.

1508
01:05:15,999 --> 01:05:17,261
Dus jij regeert de wereld.

1509
01:05:18,610 --> 01:05:20,394
Als je dit echt gelooft,

1510
01:05:20,438 --> 01:05:22,744
als je echt in je hart bent
geloof dit,

1511
01:05:22,788 --> 01:05:24,181
dan ben je dat misschien wel
bereid te nemen

1512
01:05:24,224 --> 01:05:26,096
behoorlijk veel risico
om dat te laten gebeuren.

1513
01:05:26,139 --> 01:05:28,881
Google heeft het zojuist vrijgegeven
zijn nieuwste AI-model.

1514
01:05:28,925 --> 01:05:31,231
Het antwoord op ChatGPT van OpenAI.

1515
01:05:31,275 --> 01:05:33,059
Hoe komen we erbij
deze tien biljoen?

1516
01:05:33,103 --> 01:05:35,192
Wordt NVIDIA de meest
waardevol bedrijf in de VS?

1517
01:05:35,235 --> 01:05:38,978
Dit is het grootste bedrijf
kans in de geschiedenis.

1518
01:05:39,022 --> 01:05:40,501
In de geschiedenis.

1519
01:05:40,545 --> 01:05:42,242
Dus de reden waarom
iedereen is echt hyped

1520
01:05:42,286 --> 01:05:44,679
over kunstmatige intelligentie
nu

1521
01:05:44,723 --> 01:05:48,031
is omdat
hoe meer deze bedrijven hypen

1522
01:05:48,074 --> 01:05:50,033
de potentiële mogelijkheden
van hun technologie,

1523
01:05:50,076 --> 01:05:53,210
hoe meer investeringen
ze kunnen aantrekken.

1524
01:05:53,253 --> 01:05:54,733
CARL QUINTANILLA:
Amazon investeert tot

1525
01:05:54,776 --> 01:05:56,996
vier miljard dollar
bij start-up Anthropic.

1526
01:05:57,040 --> 01:05:58,693
OpenAI heeft zijn zinnen gezet

1527
01:05:58,737 --> 01:06:00,739
op een blockbusterhelft
een waardering van een biljoen dollar.

1528
01:06:00,782 --> 01:06:02,001
Een half biljoen!

1529
01:06:02,045 --> 01:06:03,220
De race is begonnen.

1530
01:06:03,263 --> 01:06:04,612
Dit gebeurt
sneller dan ooit.

1531
01:06:04,656 --> 01:06:06,614
Zitten we in een AI-bubbel?
Natuurlijk.

1532
01:06:06,658 --> 01:06:09,182
Ik zie het gewoon niet
de zeepbel barst

1533
01:06:09,226 --> 01:06:12,446
terwijl je dat nog hebt
deze grote uitgavencyclus.

1534
01:06:12,490 --> 01:06:15,014
RASKIN: Zelfs als je nadenkt
dit is allemaal een hype,

1535
01:06:15,058 --> 01:06:17,582
er zijn miljarden
tot biljoenen dollars

1536
01:06:17,625 --> 01:06:21,107
die vloeit naar het maken van AI-systemen
krachtiger.

1537
01:06:21,151 --> 01:06:23,849
En als je dat ding eenmaal hebt
dat is krachtiger,

1538
01:06:23,892 --> 01:06:25,546
bedrijven kunnen daar gebruik van maken

1539
01:06:25,590 --> 01:06:27,548
om grotere winsten te behalen
en om meer geld te verdienen.

1540
01:06:27,592 --> 01:06:30,116
Landen kunnen daar gebruik van maken
sterkere legers te maken.

1541
01:06:30,160 --> 01:06:32,814
NVIDIA heeft ingehaald
Microsoft en Apple

1542
01:06:32,858 --> 01:06:36,253
om van de wereld te worden
meest waardevolle bedrijf.

1543
01:06:36,296 --> 01:06:38,995
De race om in te zetten wordt
de race naar roekeloosheid,

1544
01:06:39,038 --> 01:06:41,780
omdat ze dat niet kunnen
zet het zo snel in

1545
01:06:41,823 --> 01:06:43,173
en ook gelijk krijgen.

1546
01:06:43,216 --> 01:06:46,045
Dat geloven ze
zij zijn de goeden.

1547
01:06:46,089 --> 01:06:49,309
‘En als ik het niet doe,
iemand die dat niet heeft

1548
01:06:49,353 --> 01:06:51,572
"Net zo goede waarden als ik
zal aan tafel zitten

1549
01:06:51,616 --> 01:06:54,445
beslissingen moeten nemen, dus
Ik heb een verplichting om het te doen."

1550
01:06:54,488 --> 01:06:56,186
Ja, dit is het
een zeer algemeen aanvaarde overtuiging.

1551
01:06:56,229 --> 01:06:58,579
Veel, veel, veel,
misschien wel de meeste mensen

1552
01:06:58,623 --> 01:07:00,712
het bouwen van deze technologie
geloof dat.

1553
01:07:00,755 --> 01:07:03,715
Ik maak me zorgen
de commerciële concurrentie,

1554
01:07:03,758 --> 01:07:05,847
maar het blijkt
Ik maak me er nog meer zorgen over

1555
01:07:05,891 --> 01:07:08,024
de geopolitieke concurrentie.

1556
01:07:08,067 --> 01:07:10,330
We liepen acht jaar achter
een jaar geleden.

1557
01:07:10,374 --> 01:07:12,593
Nu zijn we dat waarschijnlijk
minder dan een jaar achter.

1558
01:07:12,637 --> 01:07:15,683
Nou ja, allebei Saoedi-Arabië
en de VAE hebben geracet

1559
01:07:15,727 --> 01:07:18,121
datacenters opzetten
en zichzelf positioneren

1560
01:07:18,164 --> 01:07:20,384
als de dominante kracht in AI...

1561
01:07:20,427 --> 01:07:22,429
...om Zuid-Korea te maken
een mondiale AI-leider.

1562
01:07:22,473 --> 01:07:23,996
JULIA SIEGER:
Franse president Emmanuel Macron

1563
01:07:24,040 --> 01:07:25,867
sprak veel over
kunstmatige intelligentie...

1564
01:07:25,911 --> 01:07:27,434
Nu met meer informatie over de rol van Israël

1565
01:07:27,478 --> 01:07:29,610
in de kunstmatige intelligentie
revolutie...

1566
01:07:29,654 --> 01:07:33,092
Landen zullen concurreren
voor wiens AI-technologieën

1567
01:07:33,136 --> 01:07:34,876
creëer de volgende generatie
van de industrie.

1568
01:07:34,920 --> 01:07:38,010
De Chinezen dringen aan
die AI,

1569
01:07:38,054 --> 01:07:39,838
zoals ontwikkeld in China,

1570
01:07:39,881 --> 01:07:41,709
versterken de kernwaarden

1571
01:07:41,753 --> 01:07:44,016
van de Chinese Communistische Partij
en het Chinese systeem.

1572
01:07:44,060 --> 01:07:48,716
Amerika moet China verslaan
in de AI-race.

1573
01:07:48,760 --> 01:07:51,023
DANIEL: China's, zoals,
lichtjaren achter.

1574
01:07:51,067 --> 01:07:52,677
Zijn ze?

1575
01:07:52,720 --> 01:07:54,983
Ik bedoel, ze hebben veel meer
trainingsgegevens dan wij,

1576
01:07:55,027 --> 01:07:57,812
en er is niets dat zegt dat ze dat zijn
laat volgende maand geen model vallen

1577
01:07:57,856 --> 01:08:00,946
dat is niet--
presteert niet veel beter dan GPT-4.

1578
01:08:00,989 --> 01:08:03,818
Alles ging prima.
Wat kan er misgaan?

1579
01:08:03,862 --> 01:08:06,691
-DeepSeek... [spreekt Chinees]
-DeepSeek... -DeepSeek...

1580
01:08:06,734 --> 01:08:08,040
Er is een nieuw model.

1581
01:08:08,084 --> 01:08:10,825
Maar uit een Chinees laboratorium
genaamd DeepSeek.

1582
01:08:10,869 --> 01:08:13,959
Laten we het hebben over DeepSeek,
omdat het geestverruimend is,

1583
01:08:14,002 --> 01:08:17,658
en het schudt dit
hele industrie tot in de kern.

1584
01:08:17,702 --> 01:08:19,399
De regering-Trump
zal garanderen

1585
01:08:19,443 --> 01:08:23,055
dat het krachtigst
AI-systemen worden in de VS gebouwd

1586
01:08:23,099 --> 01:08:26,537
met Amerikaans ontworpen
en vervaardigde chips.

1587
01:08:26,580 --> 01:08:28,800
AI is van China
Apollo-project.

1588
01:08:28,843 --> 01:08:30,193
De Chinese Communistische Partij

1589
01:08:30,236 --> 01:08:31,542
begrijpt het potentieel diep

1590
01:08:31,585 --> 01:08:32,891
voor AI om oorlogsvoering te ontwrichten.

1591
01:08:32,934 --> 01:08:35,328
Google belooft niet langer
dat het niet zal gebeuren

1592
01:08:35,372 --> 01:08:38,418
gebruik kunstmatige intelligentie
voor wapens of surveillance.

1593
01:08:38,462 --> 01:08:40,028
China, Noord-Korea, Rusland

1594
01:08:40,072 --> 01:08:41,900
zullen het blijven bouwen
zo snel mogelijk

1595
01:08:41,943 --> 01:08:44,511
om meer economisch voordeel te behalen,
meer productiviteitsvoordeel,

1596
01:08:44,555 --> 01:08:46,818
meer wetenschappelijk voordeel,
meer militair voordeel,

1597
01:08:46,861 --> 01:08:48,646
Omdat AI betere wapens maakt.

1598
01:08:48,689 --> 01:08:51,736
Als je het over hebt
een systeem dat zo breed en capabel is

1599
01:08:51,779 --> 01:08:53,303
als een briljante wetenschapper,

1600
01:08:53,346 --> 01:08:57,959
het kan misschien wel draaien
een militaire campagne

1601
01:08:58,003 --> 01:09:01,441
beter dan welke generaal dan ook
in de Amerikaanse regering op dit moment.

1602
01:09:01,485 --> 01:09:05,489
Taiwan is het probleem dat ontstaat
de meeste spanning op dit moment

1603
01:09:05,532 --> 01:09:07,882
tussen Peking en de VS.

1604
01:09:07,926 --> 01:09:10,450
Er is een directe
oppositioneel meningsverschil

1605
01:09:10,494 --> 01:09:11,973
tussen de VS en China

1606
01:09:12,017 --> 01:09:13,975
over de vraag of Taiwan dat is
een deel van China.

1607
01:09:14,019 --> 01:09:18,415
MATHENY: Taiwan is belangrijk
om zoveel redenen.

1608
01:09:18,458 --> 01:09:20,547
Het is ook de thuisbasis van

1609
01:09:20,591 --> 01:09:24,160
ongeveer 90% van de geavanceerde chip
productie voor de wereld,

1610
01:09:24,203 --> 01:09:28,381
wat betekent dat het aanbod
keten voor geavanceerde rekenkracht

1611
01:09:28,425 --> 01:09:31,036
loopt gevaar als dat zo zou zijn

1612
01:09:31,079 --> 01:09:32,951
een soort scenario
rond Taiwan,

1613
01:09:32,994 --> 01:09:37,999
of het nu een blokkade is
of een invasie door China.

1614
01:09:38,043 --> 01:09:40,698
HENDRYCKS:
Gaan we meedoen aan een race?

1615
01:09:40,741 --> 01:09:45,616
tussen de VS en China
dat uiteindelijk overgaat in

1616
01:09:45,659 --> 01:09:49,359
een gemilitariseerde AI-wapenwedloop en,
weet je, potentieel leidt

1617
01:09:49,402 --> 01:09:51,274
tot een groot machtsconflict?

1618
01:09:51,317 --> 01:09:53,014
NICK SCHIFRIN: De uitgaande
hoogste Amerikaanse militaire commandant

1619
01:09:53,058 --> 01:09:55,843
in de regio
voorspelde dat er oorlog zou komen.

1620
01:09:55,887 --> 01:09:57,932
Ik denk dat de dreiging manifest is
gedurende dit decennium,

1621
01:09:57,976 --> 01:09:59,456
Sterker nog, in de komende zes jaar.

1622
01:09:59,499 --> 01:10:01,414
MATHENY:
Eh, een van de scenario's

1623
01:10:01,458 --> 01:10:05,853
waar ik me zorgen over maak is
een cyberflitsoorlog,

1624
01:10:05,897 --> 01:10:10,902
Ehm, eentje waarin
cybertools die autonoom zijn

1625
01:10:10,945 --> 01:10:12,947
zijn met elkaar aan het concurreren

1626
01:10:12,991 --> 01:10:14,601
op manieren die escalerend zijn

1627
01:10:14,645 --> 01:10:16,386
zonder
betekenisvolle menselijke controle.

1628
01:10:18,823 --> 01:10:20,433
HARARI:
Je leeft in een oorlogsgebied,

1629
01:10:20,477 --> 01:10:23,784
het zal een AI-beslissing zijn
of je je huis moet bombarderen

1630
01:10:23,828 --> 01:10:25,743
en of ik je moet vermoorden.

1631
01:10:25,786 --> 01:10:27,527
Laten we de machine laten beslissen.

1632
01:10:27,571 --> 01:10:29,355
Dat is de verleiding.

1633
01:10:29,399 --> 01:10:32,576
Daarom is AI zo verleidelijk
voor militairen om te adopteren,

1634
01:10:32,619 --> 01:10:35,753
om autonome wapens te creëren,
want als ik begin te geloven

1635
01:10:35,796 --> 01:10:39,147
dat mijn militaire tegenstander
gaat AI adopteren,

1636
01:10:39,191 --> 01:10:41,802
Het wordt een race om wie dat kan
sneller de trekker overhalen.

1637
01:10:41,846 --> 01:10:44,892
En degene die automatiseert
dat besluit,

1638
01:10:44,936 --> 01:10:47,199
in plaats van te hebben
een mens in de lus,

1639
01:10:47,243 --> 01:10:49,201
is degene
die die oorlog zal winnen.

1640
01:10:49,245 --> 01:10:50,637
En als je erover nadenkt

1641
01:10:50,681 --> 01:10:53,074
de kernwapenwedloop
in de jaren veertig...

1642
01:10:54,554 --> 01:10:56,556
...je kent de Duitsers
werken aan de bom,

1643
01:10:56,600 --> 01:11:00,734
dus dat is niet zo makkelijk te zeggen
Robert Oppenheimer dan,

1644
01:11:00,778 --> 01:11:03,781
"Eh, weet je, langzamer."

1645
01:11:03,824 --> 01:11:05,304
Dus na het zien van deze film,
het zal verwarrend zijn,

1646
01:11:05,348 --> 01:11:06,653
Want je gaat terug,

1647
01:11:06,697 --> 01:11:08,307
en morgen
je gaat ChatGPT gebruiken,

1648
01:11:08,351 --> 01:11:10,440
en dat zal zo zijn
ongelooflijk behulpzaam.

1649
01:11:10,483 --> 01:11:12,703
En ik zal het ook gebruiken, en
het zal ongelooflijk nuttig zijn.

1650
01:11:12,746 --> 01:11:16,141
En je zult zeggen: "Wacht, dus
Ik heb net deze film over AI gezien

1651
01:11:16,184 --> 01:11:18,012
"en existentieel risico
en al deze dingen,

1652
01:11:18,056 --> 01:11:20,624
en waar is de dreiging ook alweer?"

1653
01:11:20,667 --> 01:11:24,715
En het is niet dat ChatGPT dat is
de existentiële dreiging.

1654
01:11:24,758 --> 01:11:28,675
Het is de race om in te zetten
de krachtigste,

1655
01:11:28,719 --> 01:11:31,635
ondoorgrondelijk,
oncontroleerbare technologie,

1656
01:11:31,678 --> 01:11:35,116
onder het ergste
prikkels mogelijk,

1657
01:11:35,160 --> 01:11:37,031
dat is de existentiële dreiging.

1658
01:11:38,119 --> 01:11:40,383
Daniël:
Maar het valt me op dat-dat

1659
01:11:40,426 --> 01:11:43,211
we bevinden ons in de context van een race.

1660
01:11:43,255 --> 01:11:45,910
-SUTSKEVER: Ja.
-En het is in een competitieve,

1661
01:11:45,953 --> 01:11:47,651
‘Ik moet er eerst zijn,
moet de race winnen' instelling,

1662
01:11:47,694 --> 01:11:49,000
"moest concurreren tegen China,

1663
01:11:49,043 --> 01:11:50,349
tegen moest concurreren
de andere laboratoria."

1664
01:11:50,393 --> 01:11:51,829
Klopt dat niet?

1665
01:11:51,872 --> 01:11:53,657
Vandaag is dat het geval.

1666
01:11:53,700 --> 01:11:56,703
We moeten dus veranderen
die racedynamiek.

1667
01:11:57,922 --> 01:11:59,924
Denk je niet?

1668
01:11:59,967 --> 01:12:02,187
Ik denk dat dat zo zou zijn
heel goed inderdaad.

1669
01:12:03,710 --> 01:12:06,496
Ik-ik denk
er is een soort...

1670
01:12:06,539 --> 01:12:09,542
mystiek rond AI
dat geeft het gevoel

1671
01:12:09,586 --> 01:12:11,718
het viel uit de lucht.

1672
01:12:11,762 --> 01:12:13,459
DANIEL: Ik denk hieraan
als een goddelijke technologie

1673
01:12:13,503 --> 01:12:15,418
is een probleem.

1674
01:12:15,461 --> 01:12:16,897
Ja.

1675
01:12:18,072 --> 01:12:19,900
Waarom?

1676
01:12:19,944 --> 01:12:22,990
Het geeft licentie
aan de bedrijven om...

1677
01:12:23,034 --> 01:12:26,254
[lacht]
geen verantwoordelijkheid nemen

1678
01:12:26,298 --> 01:12:30,781
voor de dingen die de software
dat ze hebben gebouwd wel.

1679
01:12:30,824 --> 01:12:35,089
Als mensen dat verband zouden leggen,

1680
01:12:35,133 --> 01:12:37,527
Misschien zou dat, zoals,
help ze het weer te begrijpen

1681
01:12:37,570 --> 01:12:41,835
de dynamiek van
al het geld en de macht en...

1682
01:12:41,879 --> 01:12:45,317
chaos die gebeurt met...

1683
01:12:45,361 --> 01:12:47,101
deze technologie creëren.

1684
01:12:47,145 --> 01:12:49,234
Het zijn ongeveer vijf jongens
wie controleert het, toch?

1685
01:12:49,277 --> 01:12:51,628
-Zoals, vijf mannen?
-In principe wel.

1686
01:12:51,671 --> 01:12:53,847
-De CEO's?
-Ja.

1687
01:12:53,891 --> 01:12:55,371
Oké.

1688
01:12:56,720 --> 01:12:58,722
♪ ♪

1689
01:13:01,072 --> 01:13:03,074
Daniël:
Soms voelt het zo

1690
01:13:03,117 --> 01:13:07,252
Ik ben hier mee bezig geweest
gewoon een eindeloze reis

1691
01:13:07,295 --> 01:13:09,341
om dit te proberen te begrijpen.

1692
01:13:09,385 --> 01:13:12,388
Weet je, zoals
Ik beklim een berg...

1693
01:13:15,608 --> 01:13:19,133
...en elke keer
Ik ga bijvoorbeeld een heuvel op,

1694
01:13:19,177 --> 01:13:20,744
Ik denk dat ik de top heb bereikt,

1695
01:13:20,787 --> 01:13:23,399
maar het gaat gewoon door
en gaan en gaan.

1696
01:13:23,442 --> 01:13:24,530
[camera klikt, zoemt]

1697
01:13:24,574 --> 01:13:26,967
Maar uit alles wat ik heb gehoord,

1698
01:13:27,011 --> 01:13:30,362
als ik moest raden wat
op de top van de Angstberg,

1699
01:13:30,406 --> 01:13:34,192
het zijn deze vijf CEO's
van deze vijf bedrijven,

1700
01:13:34,235 --> 01:13:37,630
die een beetje lijken op de
Oppenheimers van dit moment.

1701
01:13:37,674 --> 01:13:39,458
Dit zijn de jongens
die dit ding bouwen.

1702
01:13:39,502 --> 01:13:40,807
Ja.

1703
01:13:40,851 --> 01:13:44,158
Is er bijvoorbeeld een plan?

1704
01:13:44,202 --> 01:13:46,422
Het hoofd van het bedrijf
dat maakt ChatGPT

1705
01:13:46,465 --> 01:13:49,947
gewaarschuwd voor mogelijk
aanzienlijke schade aan de wereld.

1706
01:13:49,990 --> 01:13:52,384
Ik denk dat als deze technologie
gaat fout,

1707
01:13:52,428 --> 01:13:53,472
het kan behoorlijk misgaan.

1708
01:13:53,516 --> 01:13:55,779
[uitbarstingen van duidelijk gebabbel]

1709
01:13:55,822 --> 01:13:57,781
Daniël:
Vijf kerels.

1710
01:13:57,824 --> 01:14:01,567
Ik heb nooit aan ons gedacht
als socialmediabedrijf.

1711
01:14:01,611 --> 01:14:06,050
Het voelt alsof ik het moet proberen
en-en vind deze jongens...

1712
01:14:06,093 --> 01:14:07,181
Mm-hmm.

1713
01:14:07,225 --> 01:14:09,009
...en laat ze in de film spelen.

1714
01:14:10,315 --> 01:14:12,622
Zeker, dat zouden we krijgen
enige duidelijkheid daaruit.

1715
01:14:13,666 --> 01:14:14,928
[camera klikt, zoemt]

1716
01:14:16,582 --> 01:14:19,150
Ik bedoel, de bok moet stoppen
ergens, toch?

1717
01:14:19,193 --> 01:14:21,152
[wind fluiten]

1718
01:14:21,195 --> 01:14:22,936
♪ ♪

1719
01:14:23,981 --> 01:14:25,896
[gereedschap zoemt en klikt]

1720
01:14:27,071 --> 01:14:29,116
[suizen]

1721
01:14:34,034 --> 01:14:35,296
Daniël:
Hoe voelt dat?

1722
01:14:35,340 --> 01:14:37,690
-Geweldig.
-Is dat oké?

1723
01:14:37,734 --> 01:14:39,431
-Ja.
-[onduidelijk gepraat van de bemanning]

1724
01:14:39,475 --> 01:14:40,998
-Kan ik de stoel naar voren schuiven?
-DANIEL: Ja, dat kan.

1725
01:14:41,041 --> 01:14:42,173
Het is gewoon
een beetje lastig.

1726
01:14:42,216 --> 01:14:43,566
Ik ben een beetje, zoals...

1727
01:14:43,609 --> 01:14:45,045
Dario, hoe voel je je?
over die stoel?

1728
01:14:45,089 --> 01:14:47,004
Eh, ja, de stoel is goed.

1729
01:14:47,047 --> 01:14:48,832
-Ik wilde het alleen verplaatsen
een beetje naar voren. -Oké.

1730
01:14:48,875 --> 01:14:50,529
Ik heb die stoel uitgekozen.

1731
01:14:50,573 --> 01:14:52,139
-Het is een goede stoel.
-Bedankt.

1732
01:14:52,183 --> 01:14:53,619
[mobiele telefoon rinkelt]

1733
01:14:57,884 --> 01:14:59,495
TED:
En ga daar maar zitten.

1734
01:15:01,409 --> 01:15:03,063
En dan via hier,

1735
01:15:03,107 --> 01:15:04,369
we zullen naar elkaar kijken
door dit glas.

1736
01:15:04,412 --> 01:15:06,458
[bezettoon piept]

1737
01:15:11,419 --> 01:15:13,552
En achterover in de stoel zitten,
naar voren leunen?

1738
01:15:13,596 --> 01:15:15,119
-DANIEL: Ja. Nou ja, wat dan ook
comfortabel, denk ik. -Oké.

1739
01:15:15,162 --> 01:15:16,686
Het is best cool.
Er zijn een heleboel spiegels.

1740
01:15:16,729 --> 01:15:17,817
-Is dat... oké.
-VROUW: Sam A., neem er een. Markering.

1741
01:15:17,861 --> 01:15:19,515
-Hoe is dat?
-Goed. Bedankt.

1742
01:15:19,558 --> 01:15:21,038
DANIEL: Het ontstaan
van dit project is dat ik dat was

1743
01:15:21,081 --> 01:15:22,822
thuis zitten,
en ik speelde ermee,

1744
01:15:22,866 --> 01:15:24,389
Ik denk dat je beeldgenerator,

1745
01:15:24,432 --> 01:15:27,261
en ik was tegelijkertijd,
eh, doodsbang

1746
01:15:27,305 --> 01:15:29,437
-en echt onder de indruk.
-[ grinnikt zachtjes]

1747
01:15:29,481 --> 01:15:31,875
-Dat is de gebruikelijke combinatie.
-En dan doorsnijden

1748
01:15:31,918 --> 01:15:34,617
mijn vrouw en ik komen erachter
wij verwachten.

1749
01:15:34,660 --> 01:15:38,272
En ik heb zoiets van
een existentiële crisis

1750
01:15:38,316 --> 01:15:40,231
zoals mijn vrouw is
zes maanden zwanger.

1751
01:15:40,274 --> 01:15:42,929
En ik denk dat mijn eerste vraag:
die ik aan iedereen vraag:

1752
01:15:42,973 --> 01:15:45,453
Het is nu een verschrikkelijke tijd
een kind krijgen?

1753
01:15:45,497 --> 01:15:47,368
Maak ik een grote fout?

1754
01:15:47,412 --> 01:15:49,022
Ik verwacht een kind
ook in maart. Mijn eerste.

1755
01:15:49,066 --> 01:15:50,502
-Je verwacht een kind?
-Ja.

1756
01:15:50,546 --> 01:15:51,808
-Je verwacht in maart?
-Eerste kind.

1757
01:15:51,851 --> 01:15:53,287
-Mazel tov.
-Hartelijk dank.

1758
01:15:53,331 --> 01:15:54,462
Ik ben nog nooit zo opgewonden geweest
voor wat dan ook.

1759
01:15:54,506 --> 01:15:56,464
-Zo voel ik me.
-Ja.

1760
01:15:56,508 --> 01:15:58,205
Maar je bent niet bang?

1761
01:15:58,249 --> 01:16:02,732
Ik bedoel, het krijgen van een kind wel
alleen dit gewichtige iets

1762
01:16:02,775 --> 01:16:04,995
dat ik, weet je,
Ik blijf elke nacht wakker, zoals,

1763
01:16:05,038 --> 01:16:06,823
deze boeken over lezen
hoe je een kind moet opvoeden,

1764
01:16:06,866 --> 01:16:08,215
en ik hoop
Ik ga mijn werk goed doen,

1765
01:16:08,259 --> 01:16:09,260
en het voelt
zeer overweldigend en...

1766
01:16:09,303 --> 01:16:12,045
maar ik ben niet bang...

1767
01:16:12,089 --> 01:16:14,047
voor kinderen om op te groeien
in een wereld met AI.

1768
01:16:14,091 --> 01:16:16,310
Zo, dat is... dat komt wel goed.

1769
01:16:16,354 --> 01:16:19,009
Dat is goed om te horen
afkomstig van de man.

1770
01:16:19,052 --> 01:16:20,750
Ik vind het een prachtig idee
kinderen krijgen.

1771
01:16:20,793 --> 01:16:23,230
Ik denk dat dit de meeste zijn
magisch, ongelooflijk ding.

1772
01:16:23,274 --> 01:16:25,276
-[zucht zwaar]
-Er is zoveel onzekerheid,

1773
01:16:25,319 --> 01:16:26,843
Ik zou het bijna gewoon doen
wat je toch gaat doen.

1774
01:16:26,886 --> 01:16:28,932
Ik weet dat dat niet zo is
een zeer bevredigend antwoord,

1775
01:16:28,975 --> 01:16:31,891
maar het is de enige
Ik kan bedenken.

1776
01:16:31,935 --> 01:16:34,459
Onze kinderen zullen nooit...

1777
01:16:34,502 --> 01:16:37,070
ken een wereld die dat niet heeft
echt geavanceerde AI.

1778
01:16:37,114 --> 01:16:39,856
Onze kinderen zullen dat in feite nooit doen
wees slimmer dan een AI.

1779
01:16:39,899 --> 01:16:42,075
DANIEL: “Onze kinderen wel
nooit slimmer zijn dan een AI"?

1780
01:16:42,119 --> 01:16:44,338
Nou ja, van een rauwe,
vanuit een rauw IQ-perspectief,

1781
01:16:44,382 --> 01:16:46,253
dat zullen ze nooit zijn
slimmer dan een AI.

1782
01:16:46,297 --> 01:16:48,038
Dat idee niet
je een beetje onrustig maken?

1783
01:16:48,081 --> 01:16:51,128
Omdat het mij een gevoel geeft
een beetje misselijk op een vreemde manier.

1784
01:16:51,171 --> 01:16:54,784
Eh, het maakt mij onrustig
een klein beetje.

1785
01:16:54,827 --> 01:16:56,263
Maar het is de realiteit.

1786
01:16:56,307 --> 01:16:58,265
Daniël:
Oké, dus racedynamiek.

1787
01:16:58,309 --> 01:17:01,007
We hebben een heleboel mensen
die het allemaal eens zijn

1788
01:17:01,051 --> 01:17:02,879
dat dit eng is.

1789
01:17:02,922 --> 01:17:04,750
Gebaseerd op de tijdlijnen die
veel mensen hebben mij gegeven,

1790
01:17:04,794 --> 01:17:07,013
we hebben tussen twee maanden en
vijf jaar om dit uit te zoeken.

1791
01:17:07,057 --> 01:17:08,667
-Ja.
-En-en, denk ik,

1792
01:17:08,711 --> 01:17:12,845
mijn grootste vraag is:
Waarom kunnen we niet gewoon stoppen?

1793
01:17:14,499 --> 01:17:19,069
Het probleem met, uh, uh,
"gewoon stoppen" is dat, eh,

1794
01:17:19,112 --> 01:17:22,202
er zijn nu heel veel groepen
over de hele wereld, uh, uh,

1795
01:17:22,246 --> 01:17:25,684
dit bouwen, voor
veel landen, veel bedrijven,

1796
01:17:25,728 --> 01:17:28,121
Ehm, allemaal met
verschillende motivaties.

1797
01:17:28,165 --> 01:17:30,776
Er zijn er enkele
deze bedrijven in deze ruimte

1798
01:17:30,820 --> 01:17:33,997
wie hun standpunt is: "Wij willen
om deze technologie te ontwikkelen

1799
01:17:34,040 --> 01:17:36,042
absoluut zo snel mogelijk.”

1800
01:17:36,086 --> 01:17:40,046
En zelfs als we wetten zouden kunnen aannemen
in de VS en in Europa,

1801
01:17:40,090 --> 01:17:42,396
we moeten overtuigen...

1802
01:17:42,440 --> 01:17:44,964
Xi Jinping en Vladimir Poetin
of, weet je,

1803
01:17:45,008 --> 01:17:47,445
wie hun wetenschappelijke ook is
adviseurs staan aan hun kant.

1804
01:17:47,488 --> 01:17:49,229
Dat zal heel moeilijk worden.

1805
01:17:49,273 --> 01:17:50,927
Ik denk dat het waar is

1806
01:17:50,970 --> 01:17:53,581
dat als er twee mensen zijn
op precies dezelfde plek,

1807
01:17:53,625 --> 01:17:55,888
Uh, degene die bereid is te nemen
meer snelkoppelingen op het gebied van veiligheid

1808
01:17:55,932 --> 01:17:58,064
soort van zou moeten zijn
"Ga er eerst heen."

1809
01:17:58,108 --> 01:18:01,067
Eh, maar...

1810
01:18:01,111 --> 01:18:02,939
we kunnen onze voorsprong gebruiken

1811
01:18:02,982 --> 01:18:05,985
om veel meer tijd door te brengen
veiligheidstesten doen.

1812
01:18:06,029 --> 01:18:07,987
Daniël:
En wat als je het verliest?

1813
01:18:08,031 --> 01:18:09,597
Je krijgt de oproep
en je komt erachter

1814
01:18:09,641 --> 01:18:11,687
dat je nu bent, laten we zeggen,
zes maanden achter.

1815
01:18:11,730 --> 01:18:14,254
-W-Wat gebeurt er dan?
-Afhankelijk van wie we achter staan.

1816
01:18:14,298 --> 01:18:16,822
Als het, zoals,
een vijandige regering,

1817
01:18:16,866 --> 01:18:18,824
dat is waarschijnlijk heel erg.

1818
01:18:18,868 --> 01:18:21,348
Stel dat u gebeld wordt
dat China een

1819
01:18:21,392 --> 01:18:24,787
heeft een recursief
zelfverbeteringsmiddel

1820
01:18:24,830 --> 01:18:27,180
of zoiets dat wij
zouden zich echt zorgen moeten maken.

1821
01:18:27,224 --> 01:18:29,226
Wat gebeurt er?

1822
01:18:30,967 --> 01:18:32,403
Eh...

1823
01:18:35,406 --> 01:18:37,234
Die zaak zou vereisen...

1824
01:18:37,277 --> 01:18:40,672
de eerste stap daar zou zijn
om met de Amerikaanse regering te praten.

1825
01:18:40,716 --> 01:18:42,935
Sam, vertrouw je de
het vermogen van de overheid om hiermee om te gaan

1826
01:18:42,979 --> 01:18:44,676
zoiets als dit?

1827
01:18:45,895 --> 01:18:47,766
Ja, eigenlijk wel.

1828
01:18:47,810 --> 01:18:49,550
Er zijn andere dingen die ik niet doe
vertrouw erop dat de overheid dit afhandelt,

1829
01:18:49,594 --> 01:18:51,161
maar dat specifieke scenario,
Ik denk dat ze het wel zouden weten...

1830
01:18:51,204 --> 01:18:52,771
zij-zij-- ja.

1831
01:18:52,815 --> 01:18:54,425
DANIEL: Als je dat hebt gedaan,
zoals privégesprekken

1832
01:18:54,468 --> 01:18:56,383
met de andere jongens van wie
vingers zitten aan de trekker,

1833
01:18:56,427 --> 01:18:59,604
om het zo te zeggen, eh,
doe die privégesprekken

1834
01:18:59,647 --> 01:19:01,301
vervult je met vertrouwen

1835
01:19:01,345 --> 01:19:03,347
of maken ze jou,
Ehm, nog zenuwachtiger?

1836
01:19:03,390 --> 01:19:07,090
Kijk, ik bedoel, ik ken er een paar
van hen beter dan anderen.

1837
01:19:07,133 --> 01:19:10,136
Eh, ik heb meer vertrouwen
in sommige daarvan is dat meer dan ik

1838
01:19:10,180 --> 01:19:12,356
bij anderen, weet je,
zoals bij, zoals bij alle mensen.

1839
01:19:12,399 --> 01:19:14,140
Weet je,
je denkt erover na, weet je,

1840
01:19:14,184 --> 01:19:15,838
de kinderen op uw middelbare school
klasse of zo, toch?

1841
01:19:15,881 --> 01:19:18,275
Weet je, sommigen van hen zijn...
weet je, heel lief.

1842
01:19:18,318 --> 01:19:20,407
Sommigen van hen zijn goedbedoeld
maar niet zo effectief.

1843
01:19:20,451 --> 01:19:22,366
Sommigen van hen zijn,
je weet wel, pestkoppen.

1844
01:19:22,409 --> 01:19:23,759
Sommigen van hen zijn dat wel
echt slechte mensen.

1845
01:19:23,802 --> 01:19:25,673
[stammelt]
Jij-jij eigenlijk,

1846
01:19:25,717 --> 01:19:27,066
je ziet echt de spreiding.

1847
01:19:27,110 --> 01:19:28,807
Weet je, ben ik, ben ik,
ben ik zelfverzekerd

1848
01:19:28,851 --> 01:19:30,548
dat iedereen gaat doen
het juiste,

1849
01:19:30,591 --> 01:19:32,028
dat het allemaal goed komt?

1850
01:19:32,071 --> 01:19:33,856
Eh, nee, dat ben ik niet.

1851
01:19:33,899 --> 01:19:35,509
En er is niets
Daar kan ik wat aan doen, toch?

1852
01:19:35,553 --> 01:19:37,773
Weet je, alles wat ik kan doen
is-is druk op de,

1853
01:19:37,816 --> 01:19:39,165
aandringen op de, weet je,

1854
01:19:39,209 --> 01:19:40,776
aandringen op de regering
om betrokken te raken.

1855
01:19:40,819 --> 01:19:42,647
Maar uiteindelijk ben ik gewoon
daar ook één persoon.

1856
01:19:42,690 --> 01:19:44,127
Dat is--
het is aan ons allemaal

1857
01:19:44,170 --> 01:19:46,042
om aan te dringen op de regering
om betrokken te raken.

1858
01:19:46,085 --> 01:19:48,479
Dat is het belangrijkste
dat, dat denk ik dat we moeten doen

1859
01:19:48,522 --> 01:19:50,916
om, je weet wel, om dingen in te stellen
in de goede richting.

1860
01:19:50,960 --> 01:19:52,744
Wat mij ongerust maakt
daarover gaat zoiets als

1861
01:19:52,788 --> 01:19:56,182
de fundamentele realiteit dat de
snelheid waarmee de technologie

1862
01:19:56,226 --> 01:19:58,402
vermenigvuldigt en groeit
is exponentieel,

1863
01:19:58,445 --> 01:20:01,448
en de mechanismen om wetgeving vast te stellen
zijn 300 jaar oud,

1864
01:20:01,492 --> 01:20:02,928
-voor altijd duren.
-Ja.

1865
01:20:02,972 --> 01:20:05,104
Eh, ik denk dat
het wordt een zware lift.

1866
01:20:05,148 --> 01:20:06,889
Ik ben het er zeker mee eens
met jou daarover.

1867
01:20:06,932 --> 01:20:08,891
DANIE: Weet je,
waar ik letterlijk naar op zoek ben

1868
01:20:08,934 --> 01:20:11,241
is-is zoals,
"Hier zijn stappen die, zoals,

1869
01:20:11,284 --> 01:20:15,158
'De hoofdhoncho's gaan
nemen om te focussen op veiligheid,

1870
01:20:15,201 --> 01:20:18,117
om het gevaar te verzachten
en de belofte maximaliseren."

1871
01:20:18,161 --> 01:20:20,119
En ik niet,
Ik weet het niet

1872
01:20:20,163 --> 01:20:21,817
dat er is
daarop een simpel antwoord.

1873
01:20:21,860 --> 01:20:23,296
Eh...

1874
01:20:25,951 --> 01:20:27,561
Ik bedoel, dit is misschien wel zo
te simpel,

1875
01:20:27,605 --> 01:20:30,173
maar jij...

1876
01:20:30,216 --> 01:20:31,957
maak een nieuw model,

1877
01:20:32,001 --> 01:20:34,786
je bestudeert en test het
heel voorzichtig.

1878
01:20:34,830 --> 01:20:37,223
Jij hebt het uitgezet
geleidelijk de wereld in,

1879
01:20:37,267 --> 01:20:39,530
en dan, steeds meer,
jij begrijpt het

1880
01:20:39,573 --> 01:20:41,227
Of dat veilig is of niet,
en als dat dan zo is,

1881
01:20:41,271 --> 01:20:42,707
je kunt de volgende stap zetten.

1882
01:20:44,404 --> 01:20:47,103
Het klinkt niet zo flitsend
als een briljante wetenschapper

1883
01:20:47,146 --> 01:20:50,454
één idee bedenken in a
laboratorium om een AI-systeem te maken, zoals:

1884
01:20:50,497 --> 01:20:53,979
volkomen veilig en controleerbaar
en al het andere,

1885
01:20:54,023 --> 01:20:55,720
maar het is wat ik geloof
gaat gebeuren.

1886
01:20:55,763 --> 01:20:57,287
Het is bijvoorbeeld de manier
Ik denk dat dit werkt.

1887
01:20:57,330 --> 01:20:59,289
Maar laten we het maar zeggen
er gebeurt iets vreselijks,

1888
01:20:59,332 --> 01:21:01,813
alsof een model losraakt
of gaat schurkenstaten of zoiets.

1889
01:21:01,857 --> 01:21:03,467
Is er een protocol?

1890
01:21:03,510 --> 01:21:05,817
Zoals, letterlijk,
Ik stel me een rode telefoon voor.

1891
01:21:05,861 --> 01:21:07,123
-Ja.
-Sorry dat ik hieraan dacht

1892
01:21:07,166 --> 01:21:08,515
op het gebied van films, maar zoals...

1893
01:21:08,559 --> 01:21:09,995
Er is een protocol.

1894
01:21:10,039 --> 01:21:11,475
-Is er een rode telefoon?
op je bureau? -Nee.

1895
01:21:11,518 --> 01:21:13,216
[lacht]:
Is het een geheim?

1896
01:21:13,259 --> 01:21:15,392
Ik bedoel, uh, nee, dat is het niet,
het is niet zo luxe of dramatisch

1897
01:21:15,435 --> 01:21:17,176
zoals je zou hopen,
maar er is, weet je...

1898
01:21:17,220 --> 01:21:18,874
We hebben er goed over nagedacht
deze scenario's,

1899
01:21:18,917 --> 01:21:20,527
en als dit gebeurt,
We gaan deze mensen bellen

1900
01:21:20,571 --> 01:21:21,964
in deze volgorde en doe dit

1901
01:21:22,007 --> 01:21:23,443
en soort van maken
deze beslissingen als, zoals...

1902
01:21:23,487 --> 01:21:26,055
Dat geloof ik wel
wanneer je de kans hebt

1903
01:21:26,098 --> 01:21:29,058
om vooraf na te denken
er zich een stressvolle situatie voordoet,

1904
01:21:29,101 --> 01:21:30,407
dat is bijna altijd
een goed idee.

1905
01:21:30,450 --> 01:21:31,756
En het opschrijven ervan helpt.

1906
01:21:31,799 --> 01:21:33,279
-Voorbereid zijn is nuttig.
-Ja.

1907
01:21:34,324 --> 01:21:36,021
[zucht] Jij...

1908
01:21:36,065 --> 01:21:38,763
Het zou onmogelijk zijn
dat ik tegenover je kom zitten

1909
01:21:38,806 --> 01:21:41,157
en ik vraag je om het mij te beloven
dat dit goed gaat gaan?

1910
01:21:41,200 --> 01:21:43,855
Dat is onmogelijk.

1911
01:21:43,899 --> 01:21:45,683
Er zijn geen gemakkelijke antwoorden,
helaas.

1912
01:21:45,726 --> 01:21:48,077
Omdat het zo is
een geavanceerde technologie,

1913
01:21:48,120 --> 01:21:49,774
Eh, er is nog steeds
veel onbekenden.

1914
01:21:49,817 --> 01:21:52,255
En dat denk ik
dat-dat moet zijn,

1915
01:21:52,298 --> 01:21:55,040
Ehm, uh, weet je, begrepen

1916
01:21:55,084 --> 01:21:58,957
en-en vandaar de noodzaak
voor, uh, uh, enige voorzichtigheid.

1917
01:21:59,001 --> 01:22:00,872
Ik word wakker, weet je, elke dag,

1918
01:22:00,916 --> 01:22:03,440
dit is de, dit is de
nummer één waar ik aan denk.

1919
01:22:03,483 --> 01:22:05,137
Kijk, ik ben een mens,

1920
01:22:05,181 --> 01:22:08,358
en, weet je, heeft-heeft
was elke beslissing perfect?

1921
01:22:08,401 --> 01:22:11,622
Mag ik zelfs mijn motivaties zeggen?
altijd volkomen duidelijk waren?

1922
01:22:11,665 --> 01:22:13,537
Natuurlijk niet.
Dat kan niemand zeggen.

1923
01:22:13,580 --> 01:22:16,366
Zoals, dat is-dat is
gewoon niet, zoals, weet je...

1924
01:22:16,409 --> 01:22:18,629
dat is gewoon niet
hoe mensen werken.

1925
01:22:18,672 --> 01:22:21,023
De geschiedenis van de wetenschap
heeft de neiging dat te zijn,

1926
01:22:21,066 --> 01:22:23,547
ten goede of ten kwade,
als er iets mogelijk is om te doen...

1927
01:22:23,590 --> 01:22:26,985
en we weten nu dat AI mogelijk is
doen – de mensheid doet het.

1928
01:22:27,029 --> 01:22:29,727
Dit allemaal
zou gebeuren.

1929
01:22:29,770 --> 01:22:32,295
Deze-deze trein
zal niet stoppen.

1930
01:22:32,338 --> 01:22:34,253
Je kunt niet vooraan staan
de trein en stop hem.

1931
01:22:34,297 --> 01:22:36,255
Je wordt gewoon platgedrukt.

1932
01:22:36,299 --> 01:22:38,388
ALTMAN:
Ik bedoel, het is erg stressvol.

1933
01:22:39,606 --> 01:22:41,043
Weet je, er is zoiets als

1934
01:22:41,086 --> 01:22:42,653
veel dingen
velen van ons weten het niet.

1935
01:22:42,696 --> 01:22:46,352
Ik denk de geschiedenis
van wetenschappelijke ontdekking is

1936
01:22:46,396 --> 01:22:48,267
eentje van niet weten
wat je niet weet

1937
01:22:48,311 --> 01:22:49,660
en gaandeweg uitzoeken.

1938
01:22:49,703 --> 01:22:52,968
Maar ja, het is een...

1939
01:22:53,011 --> 01:22:56,580
het is een stressvolle manier van leven.

1940
01:22:56,623 --> 01:22:58,756
DANIEL: Juist. Sam, dank je
heel erg om dit te doen.

1941
01:22:58,799 --> 01:23:00,497
-En nogmaals, Mazel Tov.
-Bedankt. En voor jou.

1942
01:23:00,540 --> 01:23:02,673
Ontzettend bedankt. Bedankt, jongens.

1943
01:23:02,716 --> 01:23:05,458
♪ ♪

1944
01:23:07,678 --> 01:23:08,984
[zucht]

1945
01:23:10,986 --> 01:23:13,162
[elektriciteit knettert]

1946
01:23:13,205 --> 01:23:15,599
-[donderscheuren]
-[suizend, grommend]

1947
01:23:42,626 --> 01:23:44,628
-[VCR-klikken]
-[lijn rinkelt]

1948
01:23:47,848 --> 01:23:49,285
-[regelklikken]
- KEVIN ROHER: Hallo.

1949
01:23:49,328 --> 01:23:50,547
Daniël:
Hé, papa, hoe gaat het?

1950
01:23:50,590 --> 01:23:51,591
KEVIN:
Goed. Hoe gaat het?

1951
01:23:51,635 --> 01:23:53,071
Werk je? Wat ben je van plan?

1952
01:23:53,115 --> 01:23:55,247
Daniël:
Ik werk aan deze AI-film.

1953
01:23:55,291 --> 01:23:57,815
KEVIN:
En hoe gaat het?

1954
01:23:57,858 --> 01:24:00,426
Daniël:
Weet je, het... het is echt...

1955
01:24:00,470 --> 01:24:02,167
-JOANNE ROHER: Hallo, lieverd.
-DANIEL: Hallo, mam.

1956
01:24:02,211 --> 01:24:03,864
JOANNE: Dus wat is dat?
het uitgangspunt van de film?

1957
01:24:03,908 --> 01:24:06,519
Is het een documentaire?
Kev, gebruik geen kruiden meer.

1958
01:24:06,563 --> 01:24:08,304
Het is al te gekruid.

1959
01:24:08,347 --> 01:24:10,436
Wij zijn momenteel kip aan het maken.

1960
01:24:10,480 --> 01:24:12,612
-Is het een documentaire of wat...
-DANIEL: Het gaat over...

1961
01:24:12,656 --> 01:24:13,961
de film gaat over
het einde van de wereld.

1962
01:24:14,005 --> 01:24:15,789
Het einde van de wereld komt eraan,

1963
01:24:15,833 --> 01:24:17,574
en we maken een film
over het einde van de wereld.

1964
01:24:17,617 --> 01:24:19,837
-JOANNE: Echt?
-DANIEL: Ja.

1965
01:24:19,880 --> 01:24:21,578
KEVIN: Een beetje deprimerend
film, zo klinkt het.

1966
01:24:21,621 --> 01:24:23,449
JOANNE:
Ja.

1967
01:24:23,493 --> 01:24:28,976
DANIEL: Ik voel veel,
zoals... deze zeer acute angst.

1968
01:24:29,020 --> 01:24:31,370
JOANNE: Het is zo eng,
maar er moet...

1969
01:24:31,414 --> 01:24:35,287
Weet je, heb je elkaar ontmoet?
sommige superslimme mensen

1970
01:24:35,331 --> 01:24:37,768
die u antwoorden geven?

1971
01:24:37,811 --> 01:24:39,465
DANIEL: Dat is wat er is
frustrerend erover.

1972
01:24:39,509 --> 01:24:41,337
Niemand weet het.

1973
01:24:41,380 --> 01:24:43,904
JOANNE:
Het enige wat ik daar op kan zeggen is dat

1974
01:24:43,948 --> 01:24:49,867
elke generatie heeft gehad
zoiets angstaanjagends.

1975
01:24:49,910 --> 01:24:52,217
KEVIN: Toen ik werd geboren, was dat zo
de Cubaanse rakettencrisis.

1976
01:24:52,261 --> 01:24:54,263
[stabiele hartslag]

1977
01:24:54,306 --> 01:24:56,352
Ik was daar gewoon bang voor
een kernoorlog zou worden.

1978
01:24:56,395 --> 01:24:57,744
JOANNE:
Ja, maar dat wisten we niet

1979
01:24:57,788 --> 01:24:59,094
wat ze gingen doen en...

1980
01:24:59,137 --> 01:25:00,530
KEVIN:
En de wereld verging niet.

1981
01:25:00,573 --> 01:25:01,618
Iedereen werd wakker
de volgende ochtend,

1982
01:25:01,661 --> 01:25:03,402
en we doen nog steeds ons ding.

1983
01:25:03,446 --> 01:25:04,969
Daniël:
Ik ben erg bang,

1984
01:25:05,012 --> 01:25:06,840
vooral erin
de context van, zoals,

1985
01:25:06,884 --> 01:25:09,147
-je weet wel, de baby en...
-[foetale hartslag pulseert]

1986
01:25:09,191 --> 01:25:10,540
KEVIN:
Het zal een leercurve worden.

1987
01:25:10,583 --> 01:25:12,063
JOANNE:
Het komt goed met je.

1988
01:25:12,107 --> 01:25:13,064
KEVIN: Dat kan niet,
waar je niet aan kunt denken

1989
01:25:13,108 --> 01:25:14,326
waar je geen controle over hebt, Daniel.

1990
01:25:14,370 --> 01:25:16,154
Onthoud dat maar.

1991
01:25:16,198 --> 01:25:17,677
DANIEL [stem breekt]:
Ik voel het echt, ik voel het echt

1992
01:25:17,721 --> 01:25:19,201
zenuwachtig en bang ervoor.

1993
01:25:19,244 --> 01:25:21,028
Er is zoveel
waar ik geen controle over heb.

1994
01:25:21,072 --> 01:25:23,857
KEVIN: Wees niet zenuwachtig.
Dat mag je niet over je heen laten komen.

1995
01:25:23,901 --> 01:25:26,251
Je kunt alleen maar controleren
wat je kunt controleren,

1996
01:25:26,295 --> 01:25:27,905
en dat is alles wat je kunt doen.

1997
01:25:27,948 --> 01:25:30,603
Meer dan dat kun je niet doen.

1998
01:25:30,647 --> 01:25:32,649
Schrijf dat op in je boek.

1999
01:25:35,347 --> 01:25:36,870
♪ ♪

2000
01:25:44,095 --> 01:25:46,663
[foetale hartslag pulserend]

2001
01:25:46,706 --> 01:25:49,231
[huilend]

2002
01:25:49,274 --> 01:25:51,581
CAROLINE:
Als je terugkijkt,

2003
01:25:51,624 --> 01:25:54,453
de wereld vergaat altijd.

2004
01:25:54,497 --> 01:25:56,803
En als je vooruitkijkt,

2005
01:25:56,847 --> 01:25:59,241
de wereld vergaat altijd.

2006
01:25:59,284 --> 01:26:02,157
...in brand.
Eén huis staat al in brand...

2007
01:26:02,200 --> 01:26:05,377
CAROLINE: Maar de wereld
begint ook altijd.

2008
01:26:07,988 --> 01:26:09,947
Daniël:
Ben je klaar?

2009
01:26:09,990 --> 01:26:11,992
Ben jij er ooit echt klaar voor?

2010
01:26:15,909 --> 01:26:17,650
DANIEL: Jij wilt rijden
Of wil je dat ik rijd?

2011
01:26:17,694 --> 01:26:18,782
CAROLINE:
Jij rijdt.

2012
01:26:20,479 --> 01:26:21,828
-[vrouw spreekt onduidelijk]
-CAROLINE: Oké.

2013
01:26:21,872 --> 01:26:23,700
Daniël:
Dank je, Maria.

2014
01:26:23,743 --> 01:26:26,268
VROUW: Het gaat gewoon
voel me echt krampachtig.

2015
01:26:26,311 --> 01:26:27,791
-CAROLINE: Oké.
-VROUW: Ben je klaar?

2016
01:26:27,834 --> 01:26:29,053
-CAROLINE: Ja.
-[onduidelijk gebabbel]

2017
01:26:29,096 --> 01:26:30,924
[Caroline zucht zwaar]

2018
01:26:30,968 --> 01:26:32,404
VROUW: Je zou in een kunnen zitten
medisch drama met dat alles...

2019
01:26:33,840 --> 01:26:35,842
♪ ♪

2020
01:26:44,329 --> 01:26:45,896
-[statisch gekraak]
-[onduidelijk gebabbel]

2021
01:26:49,116 --> 01:26:51,075
VROUW:
...enige druk.

2022
01:26:52,685 --> 01:26:54,078
Ontspan gewoon.

2023
01:26:56,907 --> 01:26:59,214
-[baby huilt]
-[apparaat piept]

2024
01:27:02,129 --> 01:27:04,915
Daniël:
Hallo, vriend. Oeh.

2025
01:27:04,958 --> 01:27:06,438
Hallo, vriend.

2026
01:27:06,482 --> 01:27:08,484
♪ ♪

2027
01:27:31,202 --> 01:27:33,683
KEVIN:
Het wordt een hele nieuwe wereld

2028
01:27:33,726 --> 01:27:35,032
voor jou, Daniël.

2029
01:27:37,208 --> 01:27:40,080
En ik denk dat jij dat ook zult zijn
een geweldige vader.

2030
01:27:41,517 --> 01:27:44,346
JOANNE [grinnikt]:
Dat is zeker.

2031
01:27:44,389 --> 01:27:46,609
-[Kevin huilt]
-O.

2032
01:27:46,652 --> 01:27:48,654
[huilen gaat door]

2033
01:27:48,698 --> 01:27:50,787
KEVIN:
Je gaat het geweldig doen.

2034
01:27:51,788 --> 01:27:53,050
JOANNE:
Kev, waarom huil je?

2035
01:27:53,093 --> 01:27:54,617
KEVIN:
Ik huil omdat...

2036
01:27:54,660 --> 01:27:57,054
Ik weet het niet. Ik weet het gewoon niet...

2037
01:27:57,097 --> 01:27:59,317
DANIEL: Pa, dat ga je doen
laat mij ook huilen.

2038
01:27:59,361 --> 01:28:00,710
Waarom huil je?

2039
01:28:03,190 --> 01:28:05,497
KEVIN: Dat weet ik gewoon
Je zult een geweldige vader zijn.

2040
01:28:05,541 --> 01:28:07,107
DANIEL [huilend]:
Ik zal alleen maar een geweldige vader zijn

2041
01:28:07,151 --> 01:28:09,675
Omdat ik een geweldige vader had.

2042
01:28:09,719 --> 01:28:12,287
KEVIN: Ik word emotioneel,
dat is alles.

2043
01:28:12,330 --> 01:28:13,679
JOANNE:
Ach.

2044
01:28:13,723 --> 01:28:14,898
[speels geklets over video]

2045
01:28:14,941 --> 01:28:16,552
[via video]:
Jongen, o, jongen!

2046
01:28:16,595 --> 01:28:17,857
Mijn hemel!

2047
01:28:18,902 --> 01:28:20,817
Kijk eens naar die kleine wangetjes.

2048
01:28:20,860 --> 01:28:24,777
Kijk eens naar die kleine wangetjes.
Kijk eens naar die kleine wangetjes.

2049
01:28:24,821 --> 01:28:26,344
Ja.

2050
01:28:26,388 --> 01:28:28,433
Daniël:
Ik weet hoe ik deze film moet beëindigen.

2051
01:28:29,478 --> 01:28:32,263
Baby's.

2052
01:28:32,307 --> 01:28:35,266
-Het einde van de film is ongeveer
baby's.-[gebabbel over video's]

2053
01:28:35,310 --> 01:28:37,094
Ze zijn levensbevestigend.

2054
01:28:37,137 --> 01:28:38,922
Ze zijn vermoeiend.

2055
01:28:38,965 --> 01:28:40,793
-[baby lacht]
-Ze zijn hilarisch.

2056
01:28:40,837 --> 01:28:42,665
En ze zijn het waard.

2057
01:28:42,708 --> 01:28:46,451
Deze film gaat niet over de
innerlijke werking van een technologie.

2058
01:28:46,495 --> 01:28:48,235
Het gaat niet om
de CEO’s van miljardairs.

2059
01:28:48,279 --> 01:28:50,194
Het gaat niet om de geopolitiek.

2060
01:28:50,237 --> 01:28:53,589
Het gaat niet om het angstaanjagende
toekomst of het einde van de wereld,

2061
01:28:53,632 --> 01:28:55,678
omdat mijn wereld
begint net.

2062
01:28:55,721 --> 01:28:57,375
Ik ben een wieg aan het bouwen.

2063
01:28:57,419 --> 01:28:59,290
Hier, nu.

2064
01:28:59,334 --> 01:29:00,465
[baby koert]

2065
01:29:00,509 --> 01:29:02,337
AI gaat alles veranderen

2066
01:29:02,380 --> 01:29:05,601
op manieren die te krachtig zijn en
ingewikkeld voor ons om te begrijpen.

2067
01:29:05,644 --> 01:29:08,952
En de toekomst niet
voor ieder van ons om te beslissen.

2068
01:29:10,736 --> 01:29:13,609
Maar wat ik kan beslissen, is dat ik het ben
de best mogelijke echtgenoot

2069
01:29:13,652 --> 01:29:17,700
voor mijn vrouw en het beste
mogelijke vader voor mijn zoon.

2070
01:29:17,743 --> 01:29:21,399
Dus of onze AI-toekomst dat is
een nachtmerrieachtige dystopie

2071
01:29:21,443 --> 01:29:23,836
of de utopie
waar we allemaal van dromen,

2072
01:29:23,880 --> 01:29:26,883
Ik zal het tenminste weten
dat ik alles deed wat ik kon

2073
01:29:26,926 --> 01:29:30,103
om mijn gezin te begeleiden
door deze AI-revolutie.

2074
01:29:30,147 --> 01:29:33,846
En wat er ook gebeurt,
we zullen er samen mee geconfronteerd worden.

2075
01:29:33,890 --> 01:29:35,195
[opbeurende muziek zwelt aan]

2076
01:29:35,239 --> 01:29:36,806
[muziek stopt abrupt]

2077
01:29:36,849 --> 01:29:40,505
Daniël:
Dus dat is slechts ons eerste idee.

2078
01:29:40,549 --> 01:29:42,812
Hoe voelt dit?
Voel je dit?

2079
01:29:42,855 --> 01:29:45,249
Wacht, ik... dit is niet...
dit is een grap.

2080
01:29:45,292 --> 01:29:47,425
Dat is het eigenlijk niet
hoe je het gaat beëindigen.

2081
01:29:50,036 --> 01:29:52,648
Ik bedoel, het is maar een idee. Oké?

2082
01:29:52,691 --> 01:29:54,389
Nee, Daniël.

2083
01:29:54,432 --> 01:29:56,129
...uh, heel, heel dom.

2084
01:29:56,173 --> 01:29:58,915
Jij hebt net uitgegeven, ik niet
Weet je, hoeveel jaar

2085
01:29:58,958 --> 01:30:02,571
van ons leven hieraan werken,
praten met elke vooraanstaande expert

2086
01:30:02,614 --> 01:30:04,964
op de planeet over het onderwerp,

2087
01:30:05,008 --> 01:30:07,663
en jij gaat er een einde aan maken

2088
01:30:07,706 --> 01:30:10,796
met sommigen, zoals
kumbaya onzin?

2089
01:30:10,840 --> 01:30:13,495
Er is een asteroïde
op weg naar de aarde.

2090
01:30:13,538 --> 01:30:15,497
Wat doe je? Gewoon...

2091
01:30:15,540 --> 01:30:17,629
handen vasthouden
en hopen dat het goed komt?

2092
01:30:17,673 --> 01:30:19,414
Absoluut niet.

2093
01:30:19,457 --> 01:30:22,286
We moeten-- het ha--
het moet zo zijn...

2094
01:30:22,329 --> 01:30:24,419
Het einde moet...

2095
01:30:25,855 --> 01:30:27,900
CAROLINE:
Oké, het eerste:

2096
01:30:27,944 --> 01:30:31,426
AI is hier,
en het is hier om te blijven.

2097
01:30:31,469 --> 01:30:32,905
De stront is uit het paard,

2098
01:30:32,949 --> 01:30:35,430
maar het paard wel
zal blijven schijten.

2099
01:30:38,171 --> 01:30:39,651
[juichende menigte]

2100
01:30:39,695 --> 01:30:41,566
Je weet wel, een van de basisprincipes
wetten van de geschiedenis

2101
01:30:41,610 --> 01:30:44,003
is dat niets
echt een begin hebben

2102
01:30:44,047 --> 01:30:45,962
en niets heeft een einde.

2103
01:30:46,005 --> 01:30:47,703
Het gaat gewoon door.

2104
01:30:47,746 --> 01:30:50,532
AI is nog lang niet in de buurt
zijn volledige ontwikkeling.

2105
01:30:50,575 --> 01:30:52,795
CAROLINE: Zelfs als
de huidige AI-zeepbel barst,

2106
01:30:52,838 --> 01:30:54,579
-Mensen zullen nooit stoppen
-[lawaaimaker blaast]

2107
01:30:54,623 --> 01:30:57,539
steeds meer bouwen
krachtige technologie.

2108
01:30:57,582 --> 01:30:59,410
HAO:
Je kunt ervoor kiezen om geen AI te gebruiken

2109
01:30:59,454 --> 01:31:02,239
of eraan deelnemen, maar dat is het wel
zal je hoe dan ook beïnvloeden.

2110
01:31:02,282 --> 01:31:04,023
DANIEL: Oké, fantastisch.
Dus we zijn genaaid.

2111
01:31:04,067 --> 01:31:06,635
CAROLINE: Nee, dat doen we niet
vanwege één simpel ding.

2112
01:31:10,943 --> 01:31:12,989
Dit is niet onvermijdelijk.

2113
01:31:13,032 --> 01:31:15,208
Als we het maar konden zien
duidelijk samen,

2114
01:31:15,252 --> 01:31:18,342
het voor de hand liggende antwoord zal zijn
om iets anders te kiezen.

2115
01:31:18,385 --> 01:31:21,040
We moeten heel duidelijk zijn
verander het spel

2116
01:31:21,084 --> 01:31:23,129
van een race naar de bodem
in een race naar de top.

2117
01:31:23,173 --> 01:31:27,438
LEAHY: Het probleem dat we moeten aanpakken
oplossen is niet specifiek AI.

2118
01:31:27,482 --> 01:31:31,224
Het is de algemene vraag
over hoe we een samenleving opbouwen

2119
01:31:31,268 --> 01:31:33,879
waar mee om kan gaan
krachtige technologie.

2120
01:31:33,923 --> 01:31:35,359
Want we gaan het krijgen

2121
01:31:35,402 --> 01:31:36,795
alleen maar krachtiger
technologie.

2122
01:31:36,839 --> 01:31:39,668
CAROLINE:
We moeten onze samenleving upgraden,

2123
01:31:39,711 --> 01:31:41,496
en de eerste stap is
samenkomen

2124
01:31:41,539 --> 01:31:43,367
-en veeleisend...
-ALLE: Coördinatie.

2125
01:31:43,410 --> 01:31:47,023
Een of andere vorm van internationaal
samenwerking of overeenstemming over

2126
01:31:47,066 --> 01:31:48,503
wat de normen zouden moeten zijn.

2127
01:31:48,546 --> 01:31:49,895
Weet je, hoe zou dat moeten
ze worden ingezet...

2128
01:31:49,939 --> 01:31:51,549
Zoals, echt
internationale diplomatie

2129
01:31:51,593 --> 01:31:53,290
onder de supermachten.

2130
01:31:53,333 --> 01:31:56,293
De Chinezen zijn net zo bezorgd
erover als de Amerikanen.

2131
01:31:56,336 --> 01:31:57,729
Ik denk dat het moeilijk is,
weet je,

2132
01:31:57,773 --> 01:31:59,514
in de stroom
geopolitiek klimaat,

2133
01:31:59,557 --> 01:32:01,254
Maar ik denk dat het nodig is.
-RASKIN: Absoluut.

2134
01:32:01,298 --> 01:32:04,693
Op precies dezelfde manier als dat
de laatste keer dat de mensheid

2135
01:32:04,736 --> 01:32:09,611
een technologie ontwikkeld
dit gevaarlijke...

2136
01:32:09,654 --> 01:32:12,396
...dat vereiste een volledige,
ongekende verschuiving

2137
01:32:12,439 --> 01:32:15,530
voor de structuur van onze wereld.

2138
01:32:15,573 --> 01:32:17,619
CAROLINE:
Dus we moeten dat volledig doen,

2139
01:32:17,662 --> 01:32:20,883
weer een ongekende verandering.

2140
01:32:20,926 --> 01:32:24,103
Weet je, we praten met mensen
die bij deze AI-bedrijven werken,

2141
01:32:24,147 --> 01:32:25,322
en ze zeggen dat ze dat willen doen
iets anders,

2142
01:32:25,365 --> 01:32:26,628
maar ze hebben publieke druk nodig.

2143
01:32:26,671 --> 01:32:28,151
Ze hebben de overheid nodig
om iets te doen.

2144
01:32:28,194 --> 01:32:29,979
Dus dan gaan we naar DC,
en ze zeggen,

2145
01:32:30,022 --> 01:32:31,850
‘Nou, we hebben Silicon Valley nodig
om iets anders te doen.

2146
01:32:31,894 --> 01:32:33,635
Zij zijn degenen die dat gaan doen
kom maar met de vangrails."

2147
01:32:33,678 --> 01:32:35,680
En dus wijst iedereen
de vinger naar iemand anders,

2148
01:32:35,724 --> 01:32:39,466
en waar ze het over eens zijn
dat we publieke druk nodig hebben

2149
01:32:39,510 --> 01:32:41,207
om iets anders te doen
gebeuren.

2150
01:32:41,251 --> 01:32:42,818
En dat is wat jij

2151
01:32:42,861 --> 01:32:44,254
en alle mensen
deze film kijken kan doen.

2152
01:32:44,297 --> 01:32:45,298
CAROLINE:
We moeten de leiders vasthouden

2153
01:32:45,342 --> 01:32:47,083
in onze regeringen

2154
01:32:47,126 --> 01:32:48,563
en de leiders van
deze bedrijven aansprakelijk.

2155
01:32:48,606 --> 01:32:51,000
BOEREE:
In welk land je ook bent,

2156
01:32:51,043 --> 01:32:52,871
laat het ze weten
dat je niet gelukkig bent

2157
01:32:52,915 --> 01:32:54,569
met de huidige status quo.

2158
01:32:54,612 --> 01:32:57,093
Dus ja, het is saai om te zeggen
bel uw congreslid.

2159
01:32:57,136 --> 01:32:59,356
Ik zeg niet dat je dat moet doen
doe dat gewoon, maar, zoals,

2160
01:32:59,399 --> 01:33:00,923
dat moeten wij wel doen.

2161
01:33:00,966 --> 01:33:02,402
We moeten het bijvoorbeeld halen
de betrokken overheid.

2162
01:33:02,446 --> 01:33:03,839
DANIEL: Dus wij gewoon
bel ze op en zeg:

2163
01:33:03,882 --> 01:33:05,971
‘Hé, stop met Big Tech
van het ruïneren van de wereld"?

2164
01:33:06,015 --> 01:33:08,887
CAROLINE: Nee, maar die zijn er wel
heel veel voor de hand liggende,

2165
01:33:08,931 --> 01:33:10,672
duidelijke dingen
wij kunnen veeleisend zijn.

2166
01:33:10,715 --> 01:33:12,499
We hebben transparantie nodig.

2167
01:33:12,543 --> 01:33:14,240
We moeten een einde maken aan de geheimhouding
dat bestaat in deze laboratoria,

2168
01:33:14,284 --> 01:33:16,634
omdat ze aan het bouwen zijn
krachtige technologie,

2169
01:33:16,678 --> 01:33:18,680
en het publiek verdient het om te weten
wat is er aan de hand.

2170
01:33:18,723 --> 01:33:20,682
Uiteindelijk,
we hebben onafhankelijke,

2171
01:33:20,725 --> 01:33:23,249
objectieve derden
om de systemen te evalueren.

2172
01:33:23,293 --> 01:33:27,036
We kunnen niet op de bedrijven rekenen
om hun eigen huiswerk te beoordelen.

2173
01:33:27,079 --> 01:33:31,170
Als een bedrijf AI gebruikt en-en
laat AI met u communiceren,

2174
01:33:31,214 --> 01:33:34,957
het zou moeten onthullen dat u dat bent
interactie met een AI-systeem.

2175
01:33:35,000 --> 01:33:38,613
Ja. En we hebben het ook nodig
een systeem dat bedrijven maakt

2176
01:33:38,656 --> 01:33:41,833
juridisch aansprakelijk voor de
AI-systemen die ze produceren.

2177
01:33:41,877 --> 01:33:45,750
We moeten ervoor zorgen dat dat er is
zijn tests en veiligheidsnormen

2178
01:33:45,794 --> 01:33:48,013
die op iedereen van toepassing zijn.

2179
01:33:48,057 --> 01:33:49,711
We hebben een aantal basisregels nodig,

2180
01:33:49,754 --> 01:33:51,538
en we moeten ons blijven aanpassen
die regels

2181
01:33:51,582 --> 01:33:54,585
met de snelheid die
de technologie ontwikkelt zich.

2182
01:33:54,629 --> 01:33:57,153
LEAHY: Momenteel wel
meer regelgeving

2183
01:33:57,196 --> 01:33:59,285
bij het verkopen van een broodje
aan het publiek

2184
01:33:59,329 --> 01:34:02,898
dan bij het bouwen
potentieel wereldbeëindigende AGI.

2185
01:34:02,941 --> 01:34:04,682
CAROLINE:
En het laatste is

2186
01:34:04,726 --> 01:34:07,598
om onszelf te upgraden.

2187
01:34:07,642 --> 01:34:09,731
Dit is niet de baan
van bijvoorbeeld het veiligheidsteam

2188
01:34:09,774 --> 01:34:11,733
bij een bepaald laboratorium, of bij de CEO.

2189
01:34:11,776 --> 01:34:13,299
Dit is dus zo
ieders taak.

2190
01:34:13,343 --> 01:34:14,779
Laat het niet liggen
tot aan de AI-experts.

2191
01:34:14,823 --> 01:34:16,955
Zoals, [piep] dat.
Dit is bijvoorbeeld het moment

2192
01:34:16,999 --> 01:34:19,262
dat we aan het overstappen zijn
van, zoals,

2193
01:34:19,305 --> 01:34:21,525
vooral menselijke cognitieve kracht
aan, zoals, AI cognitieve kracht,

2194
01:34:21,568 --> 01:34:23,092
en het raakt iedereen,

2195
01:34:23,135 --> 01:34:24,833
en ik wil dat mensen dat ook zijn
bij dat gesprek.

2196
01:34:24,876 --> 01:34:26,878
En ik zou zeggen: als je nadenkt
dat AI ons allemaal zal doden,

2197
01:34:26,922 --> 01:34:28,488
je zou moeten werken
in AI-onderzoek

2198
01:34:28,532 --> 01:34:30,229
om er zeker van te zijn dat dit niet het geval is,
omdat je dat wel hebt

2199
01:34:30,273 --> 01:34:32,188
een enorme hoeveelheid keuzevrijheid.

2200
01:34:32,231 --> 01:34:33,842
CAROLINE:
Wie je ook bent,

2201
01:34:33,885 --> 01:34:35,844
jij bent een deskundige
in je eigen branche,

2202
01:34:35,887 --> 01:34:39,151
op je eigen school,
in je eigen familie,

2203
01:34:39,195 --> 01:34:42,589
en het is aan jou
hoe AI in je leven wordt gebruikt.

2204
01:34:42,633 --> 01:34:44,983
Of je nu mee wilt doen
jouw schoolbestuur

2205
01:34:45,027 --> 01:34:47,856
of-of dat je het wilt vragen
uw werkgever

2206
01:34:47,899 --> 01:34:49,379
hoe ze gebruiken
AI-technologieën,

2207
01:34:49,422 --> 01:34:51,947
We kunnen het werk bijvoorbeeld allemaal doen.

2208
01:34:51,990 --> 01:34:56,081
Er zijn veel vakbonden geweest
behoorlijk effectief in, zoals,

2209
01:34:56,125 --> 01:34:59,041
bepalen hoe ze willen
om met deze systemen te communiceren.

2210
01:34:59,084 --> 01:35:02,697
-Verpleegkundigenvakbonden, lerarenvakbonden.
-[onduidelijk gezang]

2211
01:35:02,740 --> 01:35:04,568
DANIELA AMODEI: Ik zou het geweldig vinden
als ouders overal

2212
01:35:04,611 --> 01:35:06,135
ging naar de AI-bedrijven
en zei:

2213
01:35:06,178 --> 01:35:08,006
‘Hoe kun je beter worden
hierover?" Inclusief wij.

2214
01:35:08,050 --> 01:35:11,183
Daarom heb ik Encode Justice opgericht
toen ik 15 jaar oud was.

2215
01:35:11,227 --> 01:35:14,839
Wij zijn de eerste ter wereld
en het grootste leger jonge mensen

2216
01:35:14,883 --> 01:35:18,364
vechten voor mensgerichtheid
kunstmatige intelligentie.

2217
01:35:18,408 --> 01:35:21,019
Het maakt niet uit wie je bent,
zelfs de kleinste acties helpen,

2218
01:35:21,063 --> 01:35:23,935
en zelfs een gesprek beginnen
is echt heel waardevol.

2219
01:35:23,979 --> 01:35:25,937
Daniël:
Mijn taak zou dus kunnen zijn:

2220
01:35:25,981 --> 01:35:27,939
vertel dit aan Bubby Lila
tijdens het diner?

2221
01:35:27,983 --> 01:35:29,767
CAROLINE: Eerlijk gezegd, ja,
dat hoort erbij.

2222
01:35:29,811 --> 01:35:31,638
En we zullen het moeten doen

2223
01:35:31,682 --> 01:35:34,424
veel dingen dat
waar we nog niet eens aan hebben gedacht.

2224
01:35:34,467 --> 01:35:36,034
Mensen gaan kijken
alles wat we hebben geschetst

2225
01:35:36,078 --> 01:35:37,253
en zeggen: "Dat is niet genoeg."

2226
01:35:37,296 --> 01:35:38,950
Waar het om gaat is dat de krachten

2227
01:35:38,994 --> 01:35:40,909
die werken
richting oplossingen

2228
01:35:40,952 --> 01:35:44,434
beginnen de krachten te overschrijden
werken tegen oplossingen.

2229
01:35:44,477 --> 01:35:46,392
De wereld beter maken
is altijd moeilijk geweest.

2230
01:35:46,436 --> 01:35:47,829
Het is nooit gemakkelijk geweest.

2231
01:35:47,872 --> 01:35:49,961
Zoals, die zijn er geweest
veel stomme dingen

2232
01:35:50,005 --> 01:35:51,920
die in de geschiedenis zijn gebeurd,
en we hebben gehad...

2233
01:35:51,963 --> 01:35:53,704
zoals mensen hebben gehad
om daarmee om te gaan,

2234
01:35:53,748 --> 01:35:56,794
en toen zijn ze opgestaan
en veranderde het.

2235
01:35:56,838 --> 01:36:00,319
Er is een krankzinnig aantal
van de uitdagingen die voor ons liggen,

2236
01:36:00,363 --> 01:36:04,106
maar als we er voorbij kunnen komen,

2237
01:36:04,149 --> 01:36:08,066
we kunnen een toekomst daarbuiten ontsluiten
onze wildste verbeelding.

2238
01:36:08,110 --> 01:36:10,416
CAROLINE:
We moeten samenkomen

2239
01:36:10,460 --> 01:36:14,246
en vind het pad ertussen
de belofte en het gevaar.

2240
01:36:14,290 --> 01:36:16,422
Wij kunnen geen pessimisten zijn
of optimisten.

2241
01:36:17,423 --> 01:36:19,425
We moeten iets nieuws worden.

2242
01:36:21,732 --> 01:36:24,474
Een vriend van mij belt mij
een apocaloptimist.

2243
01:36:24,517 --> 01:36:26,041
"Apocaloptimist"?

2244
01:36:26,084 --> 01:36:28,260
Ik denk dat dat misschien zo is
mijn nieuwe favoriete woord.

2245
01:36:28,304 --> 01:36:29,914
-[lacht] -MAN: Misschien wel
de naam van deze film.

2246
01:36:29,958 --> 01:36:31,263
-Misschien is het de naam
van deze film. -[gelach]

2247
01:36:31,307 --> 01:36:34,179
- "Apocaloptimist."
- "Apocaloptimist."

2248
01:36:34,223 --> 01:36:35,833
Ja.

2249
01:36:35,877 --> 01:36:37,269
Ik geloof niet in een ondergang.

2250
01:36:37,313 --> 01:36:39,054
Ik geloof in de geest van het leven,

2251
01:36:39,097 --> 01:36:42,666
uh, en ik geloof in het leven
over het vermogen om te handelen.

2252
01:36:42,709 --> 01:36:44,276
-[menigtezang]
-Het vermogen om relaties aan te gaan,

2253
01:36:44,320 --> 01:36:46,365
het vermogen om te voelen.

2254
01:36:49,020 --> 01:36:50,979
-[onduidelijk missiegebabbel]
-[juichen]

2255
01:36:51,022 --> 01:36:53,938
We moeten verdubbelen
steeds meer

2256
01:36:53,982 --> 01:36:57,028
op die capaciteiten
die wij als mens hebben

2257
01:36:57,072 --> 01:37:00,118
die robotsystemen
zal nooit hebben.

2258
01:37:00,162 --> 01:37:04,296
Het is nu tijd
om die beslissingen over te nemen

2259
01:37:04,340 --> 01:37:07,473
hoe je het kunt begeleiden en ondersteunen
in plaats van ons te verdelen.

2260
01:37:07,517 --> 01:37:10,259
DANIEL: Het klinkt een beetje als
een kind opvoeden.

2261
01:37:10,302 --> 01:37:12,435
Dat is wat er aan de hand is. Ja.

2262
01:37:12,478 --> 01:37:14,480
CAROLINE: AI misschien wel
meer ruwe intelligentie

2263
01:37:14,524 --> 01:37:17,222
-dan onze kleine menselijke hersenen,
-[baby lacht]

2264
01:37:17,266 --> 01:37:21,052
maar we zijn zoveel meer
dan alleen onze intelligentie.

2265
01:37:21,096 --> 01:37:25,056
Intelligentie is-is
het vermogen om problemen op te lossen.

2266
01:37:25,100 --> 01:37:28,320
Wijsheid is het vermogen om te weten
welke problemen je moet oplossen.

2267
01:37:30,932 --> 01:37:33,717
[onduidelijk gepraat van de bemanning]

2268
01:37:33,760 --> 01:37:34,892
Daniël:
Het kan op uw koelkast.

2269
01:37:34,936 --> 01:37:36,198
[lachen]

2270
01:37:36,241 --> 01:37:38,113
Joedkowski:
Geef dus niet op.

2271
01:37:38,156 --> 01:37:39,766
De mensheid heeft het gedaan

2272
01:37:39,810 --> 01:37:42,160
moeilijkere dingen dan dit
in zijn geschiedenis.

2273
01:37:43,553 --> 01:37:46,338
Het is gewoon moeilijk te overtuigen
mensen dat ze zouden moeten.

2274
01:37:46,382 --> 01:37:48,645
♪ ♪

2275
01:37:51,474 --> 01:37:52,562
[audio kraakt]

2276
01:37:54,912 --> 01:37:56,827
DANIEL: Dus toen ik begon
deze film maken,

2277
01:37:56,871 --> 01:37:58,437
Ik zou zeggen dat ik zoiets was als

2278
01:37:58,481 --> 01:38:00,918
Kortom een cynische klootzak
over dit hele ding.

2279
01:38:00,962 --> 01:38:03,094
In de loop van de tijd
van het maken van de film,

2280
01:38:03,138 --> 01:38:04,661
Ik ben het gaan begrijpen
dat, zoals,

2281
01:38:04,704 --> 01:38:07,446
dat is het enige
dat kunnen wij niet zijn.

2282
01:38:07,490 --> 01:38:09,361
...of iets anders
je wilt bespreken?

2283
01:38:09,405 --> 01:38:11,363
Nee. Ik denk dat we veel besproken hebben.

2284
01:38:11,407 --> 01:38:13,017
-Ja. [grinnikt]
-MAN: Heel erg bedankt.

2285
01:38:13,061 --> 01:38:15,498
Bedankt.

2286
01:38:15,541 --> 01:38:16,891
Daniël:
Dit is een probleem dat groter is

2287
01:38:16,934 --> 01:38:19,067
dan welke persoon dan ook.

2288
01:38:19,110 --> 01:38:21,547
Dit zal de wereld veranderen
manieren die wij niet begrijpen.

2289
01:38:21,591 --> 01:38:23,462
Dat is allemaal waar.

2290
01:38:23,506 --> 01:38:25,551
-[lacht]: Oké.
-[onduidelijk gebabbel]

2291
01:38:25,595 --> 01:38:27,684
Daniël:
Maar waar we wel keuzevrijheid over hebben

2292
01:38:27,727 --> 01:38:30,078
is wat wij eraan doen.

2293
01:38:30,121 --> 01:38:32,558
Naarmate grens-AI groeit
exponentieel capabeler...

2294
01:38:32,602 --> 01:38:34,430
Daniël:
En de realiteit

2295
01:38:34,473 --> 01:38:36,562
is dat als we maar beslissen
het is hopeloos,

2296
01:38:36,606 --> 01:38:39,000
dan is het hopeloos.

2297
01:38:39,043 --> 01:38:40,740
...om minder stress te veroorzaken
op planeet Aarde...

2298
01:38:40,784 --> 01:38:42,742
Daniël:
Maar als jij besluit

2299
01:38:42,786 --> 01:38:45,528
dat wil je proberen...

2300
01:38:46,790 --> 01:38:48,096
...dan probeer je het.

2301
01:38:48,139 --> 01:38:49,967
En dat is moeilijk.

2302
01:38:51,273 --> 01:38:53,188
Maar weet je wat?

2303
01:38:53,231 --> 01:38:56,278
Grote dingen lijken onmogelijk
voordat ze daadwerkelijk gebeuren.

2304
01:38:58,149 --> 01:39:01,413
Maar als ze eindelijk gebeuren,

2305
01:39:01,457 --> 01:39:05,243
het komt omdat miljoenen mensen
miljoenen acties ondernomen

2306
01:39:05,287 --> 01:39:07,550
om ze te laten gebeuren.

2307
01:39:07,593 --> 01:39:10,292
En dus...

2308
01:39:10,335 --> 01:39:12,424
we moeten het proberen.

2309
01:39:13,469 --> 01:39:14,905
[zucht zwaar]

2310
01:39:21,129 --> 01:39:23,522
Er staat teveel op het spel.

2311
01:39:23,566 --> 01:39:25,611
♪ ♪

2312
01:39:32,401 --> 01:39:34,664
[film knettert]

2313
01:39:37,232 --> 01:39:41,236
Kijk naar de ongelooflijke veranderingen
we hebben het meegemaakt en overleefd

2314
01:39:41,279 --> 01:39:42,846
uit het stenen tijdperk,

2315
01:39:42,889 --> 01:39:46,110
en nog grotere veranderingen
moeten nog komen.

2316
01:39:46,154 --> 01:39:49,157
["Ik ben het kwijtgeraakt door het te proberen"
door Son Lux aan het spelen]

2317
01:40:18,403 --> 01:40:20,449
♪ ♪

2318
01:40:47,606 --> 01:40:50,174
♪ Wat gaan we nu doen? ♪

2319
01:40:50,218 --> 01:40:53,221
♪ We zijn het kwijtgeraakt door te proberen ♪

2320
01:40:53,264 --> 01:40:55,092
♪ We zijn het kwijt ♪

2321
01:40:55,136 --> 01:40:56,746
♪ Om te proberen ♪

2322
01:40:59,575 --> 01:41:02,230
♪ Wat gaan we nu doen? ♪

2323
01:41:02,273 --> 01:41:05,189
♪ We zijn het kwijtgeraakt door te proberen ♪

2324
01:41:05,233 --> 01:41:06,973
♪ We zijn het kwijt ♪

2325
01:41:07,017 --> 01:41:08,714
♪ Om te proberen ♪

2326
01:41:11,630 --> 01:41:14,111
♪ Wat kunnen we nu zeggen? ♪

2327
01:41:14,155 --> 01:41:17,201
♪ Onze mond liegt alleen maar ♪

2328
01:41:17,245 --> 01:41:18,637
♪ Onze monden ♪

2329
01:41:18,681 --> 01:41:20,683
♪ Alleen maar liegen ♪

2330
01:41:25,122 --> 01:41:27,690
♪ Wat kunnen we nu zeggen? ♪

2331
01:41:27,733 --> 01:41:30,823
♪ Onze mond liegt alleen maar ♪

2332
01:41:30,867 --> 01:41:32,216
♪ Onze monden ♪

2333
01:41:32,260 --> 01:41:34,218
♪ Alleen maar liegen ♪

2334
01:41:34,262 --> 01:41:36,264
♪ ♪

2335
01:42:01,071 --> 01:42:03,726
♪ Geef toe en ga weg ♪

2336
01:42:03,769 --> 01:42:06,685
♪ Wij staan op in de stervenden ♪

2337
01:42:06,729 --> 01:42:08,209
♪ Wij staan op ♪

2338
01:42:08,252 --> 01:42:10,211
♪ Bij de stervenden ♪

2339
01:42:13,127 --> 01:42:15,781
♪ Geef toe en ga weg ♪

2340
01:42:15,825 --> 01:42:18,654
♪ Wij staan op in de stervenden ♪

2341
01:42:18,697 --> 01:42:20,221
♪ Wij staan op ♪

2342
01:42:20,264 --> 01:42:22,223
♪ Bij de stervenden ♪

2343
01:42:25,051 --> 01:42:27,663
♪ Geef toe en ga weg ♪

2344
01:42:27,706 --> 01:42:30,666
♪ Wij staan op in de stervenden ♪

2345
01:42:30,709 --> 01:42:32,233
♪ Wij staan op ♪

2346
01:42:32,276 --> 01:42:34,148
♪ Bij de stervenden ♪

2347
01:42:37,107 --> 01:42:39,718
♪ Geef toe en ga weg ♪

2348
01:42:39,762 --> 01:42:42,591
♪ Wij staan op in de stervenden ♪

2349
01:42:42,634 --> 01:42:43,809
♪ Wij ♪

2350
01:42:43,853 --> 01:42:45,898
♪ ♪

2351
01:43:15,580 --> 01:43:17,626
♪ ♪

2352
01:43:22,761 --> 01:43:25,286
♪ O, o, o, o, o ♪

2353
01:43:25,329 --> 01:43:26,983
♪ O, o, o, o ♪

2354
01:43:27,026 --> 01:43:28,419
♪ O, o ♪

2355
01:43:28,463 --> 01:43:31,379
♪ O, o, o, o, o, o ♪

2356
01:43:31,422 --> 01:43:32,945
♪ O, o, o, o ♪

2357
01:43:32,989 --> 01:43:34,382
♪ O, o ♪

2358
01:43:34,425 --> 01:43:37,036
♪ O, o, o, o, o, o ♪

2359
01:43:37,080 --> 01:43:39,648
♪ Wat gaan we nu doen? ♪

2360
01:43:39,691 --> 01:43:42,651
♪ We zijn het kwijtgeraakt door te proberen ♪

2361
01:43:42,694 --> 01:43:44,566
♪ We zijn het kwijt ♪

2362
01:43:44,609 --> 01:43:46,307
♪ Om te proberen ♪

2363
01:43:46,350 --> 01:43:49,005
♪ O, o, o, o, o, o ♪

2364
01:43:49,048 --> 01:43:51,703
♪ Wat gaan we nu doen? ♪

2365
01:43:51,747 --> 01:43:54,706
♪ We zijn het kwijtgeraakt door te proberen ♪

2366
01:43:54,750 --> 01:43:56,578
♪ We zijn het kwijt ♪

2367
01:43:56,621 --> 01:43:58,406
♪ Om te proberen. ♪

2368
01:43:58,449 --> 01:44:00,451
♪ ♪

2369
01:44:23,126 --> 01:44:24,475
[lied eindigt]